මිනිස් සංහතියටම දැඩි අනතුරු ඇඟවීමක් - “පිටසක්වළ ජීවියෙකු වැනි AI බුද්ධියක් බිහි කරමින් සිටිනවා” පර්යේෂකයෙකුගෙන් හෙළිදරව්වක්

කෘත්‍රිම බුද්ධිය (AI) ක්ෂේත්‍රයේ ප්‍රමුඛ සමාගම් වන OpenAI සහ Anthropic සමඟ කටයුතු කළ පර්යේෂකයෙකු වන ජේකොබ් කොක්සන් (Jacob Coxon), අනාගතයේදී අතිශය බුද්ධිමත් AI පද්ධති නිර්මාණය කිරීම පිළිබඳව දැඩි අනතුරු ඇඟවීමක් සිදුකර තිබේ.

ඔහු පෙන්වා දෙන්නේ මිනිස් බුද්ධිය ඉක්මවා යන “Superintelligent AI” නිර්මාණය කිරීමට උත්සාහ කිරීම, මිනිසුන්ට සම්පූර්ණයෙන් අවබෝධ කරගත නොහැකි සහ පාලනය කළ නොහැකි “පිටසක්වළ බුද්ධිමය විශේෂයක්” කැඳවීමකට සමාන බවයි.

රූපවාහිනී වැඩසටහනකට එක්වෙමින් කොක්සන් සඳහන් කර ඇත්තේ, “Superintelligence” පිළිබඳ සංකල්පය දැනටමත් පිටසක්වළ ජීවී විශේෂයක් කැඳවීමකට සමාන කර ඇති බවයි. එවැනි බුද්ධියක් අපට සම්පූර්ණයෙන් තේරුම් ගැනීමට නොහැකි වීමම භයානක තත්ත්වයක් බවද ඔහු අවධාරණය කර තිබේ.

ඔහුගේ අදහස අනුව, අනාගතයේ සිදුවිය හැකි කිසියම් විනාශකාරී සිදුවීමක් ගැන පවා සලකා බැලීමට පෙර, මිනිසුන්ට පාලනය කළ නොහැකි නව බුද්ධිමය ආයතනයක් නිර්මාණය කිරීමේ ක්‍රියාවලියම බරපතළ අවදානමක් වේ.

AI මගින් මනුෂ්‍ය වර්ගයාට තර්ජනයක්?

AI සංවර්ධනයේ වත්මන් වේගය පිළිබඳව මනුෂ්‍ය වර්ගයාට ඇති විය හැකි අවදානම් ගැන අනතුරු ඇඟවූ පළමු පුද්ගලයා කොක්සන් නොවේ. Anthropic ප්‍රධාන විධායක නිලධාරී ඩාරියෝ අමෝඩෙයි, OpenAI ප්‍රධාන විධායක නිලධාරී සෑම් ඇල්ට්මන් සහ xAI සමාගමේ Elon Musk ඇතුළු AI ක්ෂේත්‍රයේ ප්‍රමුඛ පුද්ගලයන් පවා AI සංවර්ධනයේ වේගය සහ එහි ආරක්ෂාව පිළිබඳව අවධානය යොමු කර තිබේ.

Musk මීට පෙර පවසා ඇත්තේ ඉදිරි වසර 10ක කාලය තුළ AI මගින් මනුෂ්‍ය වර්ගයා මුළුමනින්ම විනාශ වීමේ යම් අවදානමක් පවතින බවයි.

AI ක්ෂේත්‍රයේ “Godfather of AI” ලෙසද හැඳින්වෙන, නොබෙල් ත්‍යාගලාභී පරිගණක විද්‍යාඥ Geoffrey Hinton ද AI හේතුවෙන් මනුෂ්‍ය වර්ගයා විනාශ වීමේ අවදානම සියයට 10ත් 20ත් අතර විය හැකි බවට අවස්ථා කිහිපයකදී අනතුරු අඟවා තිබේ.

Yoshua Bengio, LinkedIn සම-නිර්මාතෘ Reid Hoffman, හිටපු Google ප්‍රධාන විධායක නිලධාරී Eric Schmidt සහ Google DeepMind සම-නිර්මාතෘ Demis Hassabis ඇතුළු තවත් තාක්ෂණ හා AI ක්ෂේත්‍රයේ ප්‍රමුඛයන් ද AI සංවර්ධනය සඳහා දැඩි ආරක්ෂක සීමා සහ පාලන ක්‍රමවේද අවශ්‍ය බව පෙන්වා දී තිබේ.

“ට්‍රම්ප් සහ නටාලි හාප් සිපගන්නා Viral ඡායාරූපය ව්‍යාජ එකක්ද?” - සැක මතුවන කරුණු කිහිපයක් එළියට

කොක්සන් Anthropic සමාගමෙන් ඉවත් වූයේ ඇයි?

කොක්සන් පවසන්නේ Anthropic සමාගමෙන් ඉවත් වීම එක්වරක් ගත් තීරණයක් නොව, සමාගම තුළ සිදුවෙමින් පැවති දේ පිළිබඳව කාලයක් පුරා ඇති වූ අවබෝධයක ප්‍රතිඵලයක් බවයි.

ඔහු සඳහන් කර ඇත්තේ, සිදුවෙමින් පැවති දේ පිළිබඳව තමා සැබෑ ලෙසම සෑහීමකට පත් නොවූ බවත්, එම තත්ත්වය හේතුවෙන් තම ජීවිතයේ සැලකිය යුතු වෙනසක් සිදුකළ යුතු බව අවබෝධ වූ බවත්ය.

AI ක්ෂේත්‍රයෙන් ඉවත් වූ තවත් අභ්‍යන්තර පර්යේෂකයන්

AI ආරක්ෂාව පිළිබඳ ගැටලු මතු කරමින් විශාල AI සමාගම්වලින් ඉවත් වූ පර්යේෂකයන් අතර කොක්සන් පමණක් නොවේ. 2026 පෙබරවාරි මාසයේදී Anthropic හි Safeguards Research කණ්ඩායමේ හිටපු ප්‍රධානී Mrinank Sharma ද ඉල්ලා අස්විය. ඔහු ලෝකය “බරපතළ අනතුරක” පවතින බවට කනස්සල්ල පළ කළ අතර, වේගවත් AI යෙදවීම් සඳහා ආරක්ෂාව සම්බන්ධ අත්‍යවශ්‍ය කටයුතු පසෙකට දැමීමට සිදුවන අභ්‍යන්තර පීඩනයක් පිළිබඳවද සඳහන් කළේය.

2024 වසරේදී OpenAI සමාගම තුළද AI ආරක්ෂාව සම්බන්ධ පර්යේෂකයන් කිහිපදෙනෙකු ඉවත් වීම විශාල අවධානයකට ලක්විය. OpenAI හි Superalignment කණ්ඩායමේ සම-ප්‍රධානී Jan Leike ඉල්ලා අස්වෙමින් ප්‍රකාශ කළේ සමාගමේ ආරක්ෂක සංස්කෘතිය සහ ක්‍රියාවලීන් නව නිෂ්පාදන කෙරෙහි ඇති අවධානය හමුවේ පසුබැස ඇති බවයි.

OpenAI සම-නිර්මාතෘ සහ ප්‍රධාන විද්‍යාඥ Ilya Sutskever ද සමාගමේ AI ආරක්ෂක පර්යේෂණයේ අනාගත දිශානතිය පිළිබඳ මූලික මතභේද හේතුවෙන් ඉවත් විය. Governance සහ AI alignment පිළිබඳ පර්යේෂකයෙකු වූ Daniel Kokotajlo ද OpenAI නායකත්වයට අනාගතයේදී දියුණු AGI පද්ධති වගකීමෙන් කළමනාකරණය කළ හැකිද යන්න පිළිබඳ විශ්වාසය අහිමිවීමෙන් පසු සමාගමෙන් ඉවත් විය.

AGI හෙවත් “Artificial General Intelligence” යනු සාමාන්‍යයෙන් මිනිස් බුද්ධියට සමාන හෝ ඇතැම් අවස්ථාවලදී එය ඉක්මවා යා හැකි මට්ටමේ බුද්ධිමය හැකියාවක් සහිත AI පද්ධතියක් ලෙස සැලකේ. 2024 වසරේ OpenAI වෙතින් ඉවත් වූ AI ආරක්ෂක පර්යේෂකයන් අතර William Saunders, Leopold Aschenbrenner සහ Pavel Izmailov ද ඇතුළත් විය.

Aschenbrenner සමාගමෙන් ඉවත් කිරීම සම්බන්ධයෙන් වෙනත් කරුණක්ද ඉදිරිපත් කර තිබූ අතර, සමාගමේ ආරක්ෂක මට්ටම ප්‍රමාණවත් නොවන බවට අභ්‍යන්තර සංදේශයක් ඉදිරිපත් කිරීමෙන් පසුව තමාට එරෙහිව ක්‍රියා කළ බවට ඔහු චෝදනා කළේය.

AI තාක්ෂණය මිනිස් ජීවිතයට විශාල ප්‍රතිලාභ ලබාදිය හැකි වුවද, එය මිනිසුන්ට පාලනය කළ නොහැකි මට්ටමකට වර්ධනය වීමේ අවදානම පිළිබඳ විවාදය මේ වන විට ගෝලීය වශයෙන් තවදුරටත් උණුසුම් වෙමින් පවතී.

හෝමුස් සමුද්‍ර සන්ධිය ආසන්නයේ තෙල් නෞකාවක ගින්නක්