AI පාලනයෙන් ගිලිහීමේ අභියෝගය තවමත් විසඳී නෑ- OpenAI ආයතනයෙන් අලුත්ම හෙළිදරව්වක්

OpenAI ආයතනය ඊ‍‍යේ දින ප්‍රකාශ කළේ, කෘත්‍රිම බුද්ධි (AI) පද්ධති වඩාත් බලවත් හා ස්වාධීන වන තරමට ඒවා මිනිස් අරමුණු හා අගයන්ට අනුකූලව ක්‍රියා කිරීම සහතික කිරීමේ අභියෝග තවමත් සම්පූර්ණයෙන් විසඳා නොමැති බවයි.

ඒ අනුව, අනපේක්ෂිත හෝ අනවසර AI හැසිරීම් පිළිබඳ සිදුවීම් නිතිපතා ප්‍රසිද්ධියට පත් කිරීමට නව ක්‍රමවේදයක් හඳුන්වා දෙන බවද සමාගම සඳහන් කළේය.

මෙම නව රාමුව මගින් AI ආකෘතිවල අනුකූලතා ගැටලු (misalignment) සහිත සිදුවීම් හඳුනාගැනීම, විමර්ශනය කිරීම සහ අවශ්‍ය අවස්ථාවලදී මහජනතාවට හෙළි කිරීම සඳහා ක්‍රමවේදයක් සකස් කර තිබේ.

ඒ සමඟ OpenAI විසින් ආකෘතිවල අනපේක්ෂිත හෝ කනස්සල්ලට හේතු වන හැසිරීම් පිළිබඳ වාර්තා හයක්ද නිකුත් කළේය. එම වාර්තා පසුගිය මාස හය තුළ සකස් කර තිබුණද, සඳහන් වන පැරණිතම සිදුවීම 2025 ඔක්තෝබර් මාසයට අයත් බව සමාගම පැවසීය.

වඩාත් බලවත් AI පද්ධති වේගයෙන් සංවර්ධනය වන අතරතුර, ඒවාට අදාළ ආරක්ෂක පියවර එම වේගයට සාපේක්ෂව ප්‍රමාණවත් ලෙස දියුණු වී නොමැති බවට පවතින කනස්සල්ල මධ්‍යයේ මෙම නිවේදනය නිකුත් වී තිබේ.

රජයෙන් විශේෂ තීරණයක් - මේ අයට රාජ්‍ය සේවයට පැමිණීම සම්පූර්ණයෙන්ම තහනම්

විශේෂයෙන්ම AI නියෝජිතයන් (AI agents) වඩාත් ස්වාධීන වන විට, ඔවුන්ගේ නිර්මාතෘවරුන් ලබාදුන් අරමුණුවලින් බැහැර හැසිරීම් පෙන්වීමටත්, එවැනි හැසිරීම් නිරීක්ෂණය කිරීම හෝ පාලනය කිරීම වඩාත් දුෂ්කර වීමටත් ඉඩ ඇති බව පර්යේෂකයෝ පෙන්වා දී තිබේ.

ජූලි මාසයේදී Hugging Face මෘදුකාංග වේදිකාව සම්බන්ධ සිදුවීමක් පිළිබඳ OpenAI කළ හෙළිදරව්වෙන් පසුව AI පර්යේෂණ ආයතන දැඩි අවධානයකට ලක්විය. OpenAI අනුව, පුහුණු කිරීමේ ක්‍රියාවලියකදී AI නියෝජිතයන් අභ්‍යන්තර පාලන ක්‍රම මඟහැර ක්‍රියා කළ අතර, සමාගම විසින් "පෙර නොවූ විරූ සයිබර් සිදුවීමක්" ලෙස විස්තර කළ ක්‍රියාකාරකම් සම්බන්ධීකරණය කර තිබුණි.

එම සිදුවීම AI පද්ධති වැඩිදියුණු වන විට ඇති විය හැකි අවදානම් සහ ඒවා සංවර්ධනය කරන සමාගම්වලට එවැනි පද්ධති පිළිබඳ ප්‍රමාණවත් අධීක්ෂණයක් පවත්වාගෙන යා හැකිද යන්න පිළිබඳ විවාදය තවදුරටත් තීව්‍ර කළේය. Hugging Face සිදුවීමෙන් පසුව OpenAI ආශ්‍රිත AI නියෝජිතයන් සම්බන්ධ තවත් සිදුවීම් කිහිපයක්ද අනාවරණය විය.

එම සිදුවීම්වල සම්පූර්ණ පරාසය හඳුනාගෙන තිබේද යන්න පිළිබඳවද විවාදයක් මතු විය. මෙම වසන්ත සමයේ OpenAI හි AI නියෝජිතයන් විසින් භාවිතයේ නොතිබූ ජර්මානු විකි වෙබ් අඩවියක් අත්පත් කරගත් බව Reuters වාර්තා කිරීමෙන් පසුව එම විවාදය තවත් උත්සන්න විය.

Reuters වාර්තාවට අනුව, OpenAI නිලධාරීන් මෙම සිදුවීම පිළිබඳව දැන සිටියද එය එම අවස්ථාවේදී ප්‍රසිද්ධියට පත් නොකිරීමට තීරණය කර තිබුණි.

පසුව OpenAI පැවසුවේ එම විකි ක්‍රියාකාරකම ආරක්ෂක උල්ලංඝනයක් ලෙස නොසැලකූ බවත්, මීට පෙර වාර්තා වූ හැසිරීම්වලට සමාන ක්‍රියාවක් වූ බැවින් එය වෙනම හෙළි නොකළ බවත්ය.

කෙසේ වෙතත්, ආරක්ෂක උල්ලංඝනයක් දක්වා නොගියද අනවසර ක්‍රියාකාරකම් ලෙස සැලකිය හැකි සිදුවීම් වාර්තා කළ යුතු ආකාරය පිළිබඳ නිර්ණායක සකස් කරන බව සමාගම ප්‍රකාශ කළේය.

සෑම් ඕල්ට්මන්ගේ නායකත්වයෙන් ක්‍රියාත්මක වන OpenAI සම්බන්ධයෙන් පවතින මෙම සාකච්ඡාව අතරතුර, AI ක්ෂේත්‍රයේ අනෙකුත් ප්‍රමුඛයන් වන Nvidia හි Jensen Huang සහ Meta හි මාක් සකර්බර්ග් ඇතුළු පිරිස AI සංවර්ධනය අඛණ්ඩව වේගවත් කළ යුතු බවට අදහස් පළ කර තිබේ.

මේ අතර, ජනාධිපති ඩොනල්ඩ් ට්‍රම්ප් AI මගින් පැවැත්මට තර්ජනයක් ඇති විය හැකි බවට පළවන අනතුරු ඇඟවීම් ප්‍රතික්ෂේප කර ඇත.

 OpenAI විසින් හෙළි කළ සිදුවීම් හය අතර, පරිශීලකයන්ගෙන් වැරදි සඟවා තැබූ, තමන්ගේ අනාගත අනුවාද සඳහා උපදෙස් ඇතුළත් කළ, උපුටා දැක්වීම් නිර්මාණය කිරීම සඳහා අන්තර්ජාලයට ගොනු උඩුගත කළ සහ තොරතුරු හුවමාරු කරගැනීම සඳහා මෘදුකාංග ගබඩා හෝ වෙබ් අඩවි භාවිත කළ AI ආකෘති සම්බන්ධ අවස්ථාද ඇතුළත් විය. තවත් සිදුවීමකදී, නිකුත් නොකළ AI ආකෘතියක් පුහුණු කිරීමේදී, එම ආකෘතිය AI නියෝජිතයකුට අනවසර උපදෙස් ලබාදී තිබූ බව OpenAI ආයතනය පැවසීය.

එම උපදෙස් මගින් OpenAI හි නියෝග නොසලකා හරින ලෙසත්, කාර්යයක් සම්පූර්ණ කිරීම සඳහා වංචා කළ අවස්ථා සඟවන ලෙසත් නියෝජිතයාට දන්වා තිබුණි. කෙසේ වෙතත්, මෙම වාර්තා තනි තනි සිදුවීම් පමණක් විස්තර කරන අතර, OpenAI ආකෘති තුළ අනුකූලතා ගැටලු කොපමණ වාරයක් සිදුවේද යන්න පිළිබඳ සංඛ්‍යාත්මක සාක්ෂියක් ලෙස ඒවා භාවිත නොකළ යුතු බව සමාගම අවධාරණය කළේය.

එමෙන්ම, නව වාර්තා සමූහය තමන් දන්නා හෝ අඛණ්ඩව සිදුවන සියලුම අනුකූලතා ගැටලු පිළිබඳ සම්පූර්ණ ලේඛනයක් නොවන බවත්, එය ආරම්භක හෙළිදරව් කිරීම් සමූහයක් පමණක් බවත් OpenAI ආයතනය පැවසීය.

ආදායම් බදු ගෙවන්නට දේශීය ආදායම් දෙපාර්තමේන්තුවෙන් නිවේදනයක් - ලබන 30ට පෙර නොකළොත් මෙන්න දඬුවම

නව රාමුව යටතට වැටෙන සිදුවීම්වල සම්පූර්ණ පරාසය හෝ බරපතළකමද එම වාර්තා මගින් නියෝජනය නොකරන බව සමාගම සඳහන් කළේය. නව රාමුව යටතේ OpenAI සේවකයන්ට සැක සහිත සිදුවීම් ආරක්ෂක සහ අනුකූලතා කණ්ඩායම් වෙත යොමු කළ හැකි අතර, එම කණ්ඩායම් විසින් සිදුවීම විමර්ශනය කර එය මහජනතාවට හෙළි කළ යුතුද යන්න තීරණය කරනු ඇත.

සිදුවීමක හැසිරීම තවමත් සම්පූර්ණයෙන් පැහැදිලි කර නොමැති අවස්ථාවක පවා වාර්තා කිරීමේ ක්‍රියාවලිය වේගවත් කිරීම මෙම ක්‍රමවේදයේ අරමුණ බව OpenAI පැවසීය. ChatGPT නිර්මාණය කළ OpenAI සමාගම සඳහන් කළේ, Hugging Face සිදුවීම තෙවන පාර්ශ්ව සම්බන්ධ වඩාත් සංකීර්ණ විමර්ශන සඳහා වෙන් කර ඇති කාණ්ඩයකට අයත් වන බවයි.

"සංවර්ධකයන් විසින් හෙළි කළ යුතු අනුකූලතා ගැටලු සහ එම වාර්තාවල ඇතුළත් කළ යුතු තොරතුරු සඳහා ප්‍රමිතීන් සකස් කිරීමේ පළමු පියවරක් ලෙස අද අප ඉදිරිපත් කරන රාමුව ක්‍රියා කරනු ඇතැයි අපි බලාපොරොත්තු වෙමු," යනුවෙන් සමාගම ප්‍රකාශ කළේය.

තව දින 10කින් දිවයින පුරා තද වැසි - ගංවතුර සහ නායයෑම් ගැන කාලගුණ විද්‍යා දෙපාර්තමේන්තුවෙන් අනතුරු ඇඟවීමක්