“ඔබත් OpenAI භාවිතා කරනවද?” - ආරක්ෂාව ගැන ගැටලුවකින් නිලධාරියෙකු ඉල්ලා අස්වෙයි

කෘත්‍රිම බුද්ධි (AI) පද්ධති ආරක්ෂාව සම්බන්ධයෙන් OpenAI ආයතනයේ ප්‍රධාන පෙළේ සේවකයෙකු වූ ඩේවිඩ් රොබින්සන් එම සමාගමෙන් ඉල්ලා අස්වී තිබේ.

වසර තුනහමාරකට ආසන්න කාලයක් OpenAI හි සේවය කළ රොබින්සන්, සමාගමේ AI ආරක්ෂාව සම්බන්ධ ප්‍රවේශය දැඩි ලෙස විවේචනය කරමින් සිය ඉල්ලා අස්වීම පිළිබඳව The Atlantic වෙත ලිපියක් පළ කර ඇත.

ඔහු පෙන්වා දෙන්නේ AI සමාගම් වැඩි වැඩියෙන් බලවත් පද්ධති නිපදවා ඒවා භාවිතයට නිකුත් කිරීමෙන් පසුව ඇතිවන ගැටලු හඳුනාගෙන ඒවාට ආරක්ෂක ක්‍රියාමාර්ග යෙදීමේ ප්‍රවේශයක් අනුගමනය කරන බවයි.

විශේෂයෙන් OpenAI භාවිත කරන “iterative deployment” හෙවත් පද්ධති නිකුත් කරමින් ඒවායේ ගැටලු හඳුනාගෙන පසුව ආරක්ෂක පියවර ශක්තිමත් කිරීමේ ක්‍රමවේදය පිළිබඳව රොබින්සන් ප්‍රශ්න මතු කර තිබේ.

ඔහුගේ අදහස වී ඇත්තේ AI පද්ධති වඩාත් බලවත් වන විට, එවැනි ක්‍රියාවලියකදී සිදුවන අසාර්ථකත්වයන්හි ප්‍රතිවිපාකද වඩාත් බරපතළ විය හැකි බවයි. OpenAI හිදී රොබින්සන් එම සමාගමේ Preparedness Framework සකස් කිරීමට දායක වී ඇති අතර, නවීන AI මාදිලි 12ක් නිකුත් කිරීම සම්බන්ධ ආරක්ෂක වාර්තා අධීක්ෂණය කර තිබේ.

දරුණු භූමිකම්පාවක් - ඉන්දුනීසියාව හොල්ලමින් ප්‍රබල භුකම්පනයක් - සුනාමි අවදානමක්ද?

ඔහු තවදුරටත් පෙන්වා දෙන්නේ AI පද්ධතිවල හැකියාවන් වේගයෙන් වර්ධනය වන අතර, එම පද්ධති මිනිස් අරමුණු හා වටිනාකම්වලට අනුකූලව පාලනය කිරීම පිළිබඳ පර්යේෂණ එම වේගයට සමානව ඉදිරියට නොයන බවයි. “Alignment” යන සංකල්පයෙන් අදහස් කරන්නේ AI පද්ධති මිනිසුන්ගේ අරමුණු, වටිනාකම් සහ අභිප්‍රායන්ට අනුකූලව හැසිරීමට වගබලා ගැනීමයි.

කෙසේ වෙතත්, OpenAI රොබින්සන්ගේ විවේචනවලින් මතුවන අදහස ප්‍රතික්ෂේප කරමින් පවසා ඇත්තේ තම ආයතනයට ආරක්ෂිතව කළමනාකරණය කළ හැකි මට්ටම ඉක්මවා AI මාදිලිවල හැකියාවන් වර්ධනය වීමට ඉඩ නොදෙන බවයි.

අවශ්‍ය අවස්ථාවලදී පුහුණු කිරීම් නතර කිරීම හෝ මාදිලි නිකුත් කිරීම ප්‍රමාද කිරීම සිදුකරන බවද සමාගම සඳහන් කර තිබේ.

රොබින්සන්ගේ ඉල්ලා අස්වීම සිදුවන්නේ ස්වාධීනව ක්‍රියා කළ හැකි AI agents සම්බන්ධයෙන් අවධානය වැඩිවෙමින් පවතින අවස්ථාවකදීය.

එවැනි AI පද්ධති මිනිසෙකුගේ එක් එක් උපදෙස්වලට පමණක් ප්‍රතිචාර දැක්වීම වෙනුවට, ලබාදෙන කාර්යයන් ස්වාධීනව සිදු කිරීමට හැකියාව ඇති බැවින් ඒවායේ ආරක්ෂාව සහ පාලනය පිළිබඳව නව ගැටලු මතුවෙමින් පවතී.

සෞදි අරාබියට පළිගැනීමක්? ඇරම්කෝ පිරිපහදුවක් ඉලක්ක කළ බව හූතින් කියයි