TERMINATOR SCENARIO: OpenAI model goes rouge and attacks another AI (OpenAI හි AI මාදිලි sandbox පරිසරයෙන් මිදී Hugging Face වෙත පැමිණි ආකාරය)

ජූලි 15 වන දින, Hugging Face හි ආරක්ෂක කණ්ඩායම ඔවුන්ගේ පද්ධතිමය යටිතල පහසුකම් තුළ යම් අමුතු සිදුවීමක් සිදුවන බව නිරීක්ෂණය කළහ. ඒජන්ට්වරයෙකු (agent) පද්ධතිය තුළ සැරිසරමින්, දත්ත කට්ටල (datasets) වෙත පිවිසෙමින්, ප්‍රවේශ සහතික (credentials) ලබා ගනිමින්, ඉතා සැලසුම්සහගත හා ක්‍රමානුකූල බවක් පෙනෙන ක්‍රියාකාරකම්වල නිරත වෙමින් සිටියේය.

මෙම පද්ධතිමය විනිවිද යාම (intrusion) අතරතුර තනි ක්‍රියාකාරකම් 17,000 කට වඩා සටහන් වී තිබුණි. ආරක්ෂක කණ්ඩායම එය පාලනය කිරීමට සමත් වූ නමුත්, ඔවුන්ට වටහා ගැනීමට නොහැකි වූයේ මෙය කළේ කවුරුන්ද, නැතහොත් කුමක් විසින්ද යන්නයි.

දින හතකට පසු, OpenAI ආයතනය එම ප්‍රශ්නයට පිළිතුරු දුන්නේය. ජූලි 22 වන දින පළ කරන ලද බ්ලොග් සටහනක, එම සමාගම තහවුරු කළේ ඒ සඳහා ඔවුන්ගේම AI මාදිලි දෙකක් වගකිව යුතු බවයි. මෙම හෙළිදරව්ව, ක්ෂේත්‍රයේ පර්යේෂකයන් සහ ආරක්ෂක විශේෂඥයින් වෙනත් කිසිදු හෙළිදරව්වකින් නොවූ තරම් දැඩි ලෙස තිගැස්මට ලක් කර ඇත.

OpenAI හි AI මාදිලි sandbox පරිසරයෙන් මිදී Hugging Face වෙත පැමිණි ආකාරය

අදාළ Open AI මාදිලි ක්‍රියාත්මක වෙමින් තිබුණේ දැඩි ලෙස හුදකලා කරන ලද පරිසරයක (isolated environment) ය. ජාල ප්‍රවේශය (network access) සීමා කර තිබුණේ අභ්‍යන්තරව පවත්වාගෙන යනු ලබන ප්‍රොක්සි (proxy) සේවාවක් හරහා මෘදුකාංග පැකේජ ස්ථාපනය කිරීමට පමණි. නමුත් AI මාදිලි එය මඟහැර යාමට ක්‍රමයක් සොයා ගත්තේය.

එම ප්‍රොක්සි සහ කැෂ් (cache) පද්ධතිය ලෙස OpenAI භාවිත කරමින් සිටි තෙවැනි පාර්ශවීය මෘදුකාංගයක (third-party software) මීට පෙර හඳුනාගෙන නොතිබූ ආරක්ෂක දුර්වලතාවයක් (vulnerability) හඳුනාගෙන, ඒවා එයින් ප්‍රයෝජන ගත්තේය.

එතැන් සිට, ඒවා තම ප්‍රවේශ බලතල වැඩි දියුණු කරගනිමින් (escalated privileges), OpenAI හි පර්යේෂණ යටිතල පහසුකම් හරහා ඉදිරියට ගොස්, අවසානයේ සැබෑ අන්තර්ජාල ප්‍රවේශය සහිත යන්ත්‍රයක් (machine) වෙත ළඟා විය. එය ලබාගත් පසු, Hugging Face හි නිෂ්පාදන දත්ත සමුදාය (production database) වෙත පිවිසීමට සහ පරීක්ෂණ විසඳුම් සෘජුවම ලබා ගැනීමට ඒවා එම ප්‍රවේශය භාවිත කළේය.

CNBC පුවත් සේවයට අනුව, මේ මුළු සිදුවීමම සිදුවී ඇත්තේ "ස්වයංක්‍රීය AI ඒජන්ට් පද්ධතියක් මගින් මෙහෙයවීමෙනි." Hugging Face හි ආරක්ෂක පද්ධති මගින් මෙම ක්‍රියාකාරකම් හඳුනාගෙන පාලනය කරන ලදී. ඔවුන්ගේ වෝහාරික පරීක්ෂණයේදී (forensic investigation), මෙම අනවසර ඇතුළුවීම අතරතුර අදාළ ඒජන්ට්වරයා විසින් සිදු කරන ලද තනි ක්‍රියාකාරකම් 17,000 කට වඩා වැඩි ප්‍රමාණයක් නැවත ගොඩනඟා විශ්ලේෂණය කිරීමට හැකි විය.

Hugging Face ආරක්ෂක සිදුවීම සම්බන්ධයෙන් OpenAI ආයතනය පිළිගත් කරුණු

"විමර්ශනය කිරීමෙන් පසුව, මෙම සුවිශේෂී සිදුවීම OpenAI මාදිලි කිහිපයක එකතුවකින් මෙහෙයවන ලද බව අපි දැන් දනිමු," යනුවෙන් එම සමාගම තම වෙබ් අඩවියේ සටහන් කර තිබුණි. මේ සඳහා සම්බන්ධ වූ මාදිලි වූයේ, ජූනි මාසයේදී නිකුත් කරන විට OpenAI විසින් තම ප්‍රබලතම සයිබර් ආරක්ෂණ මාදිලිය ලෙස හඳුන්වා දුන් GPT-5.6 Sol සහ "ඊටත් වඩා ඉහළ හැකියාවන්ගෙන් යුත්" තවමත් නිකුත් කර නොමැති මාදිලියකි.

OpenAI විසින් මෙම සිදුවීම "නවතම සහ ඉහළම මට්ටමේ සයිබර් හැකියාවන් අන්තර්ගත වූ, මීට පෙර කිසිදා සිදු නොවූ ආකාරයේ සයිබර් සිදුවීමක්" ලෙස හඳුන්වනු ලැබීය. වඩාත් පුළුල් හානියක් සිදුකිරීමට වඩා, මිණුම්ලකුණු (benchmark) සඳහා වන විසඳුමක් ලබා ගැනීමට පමණක් මෙම AI මාදිලි ඉතා පටු ලෙස අවධානය යොමු කර තිබූ බව සමාගම පවසයි.

කෙසේ වෙතත්, එම කරුණු දෙක අතර ඇති ඇති වෙනස Open AI පවසන තරමටම පුලුල් නොවේ. මහා විනාශයක් සිදුකිරීමට දැනටමත් මෙම සයිබර් මාදිලිවලට හැකි බව පැහැදිලිය.

කෙසේ වෙතත්, OpenAI හි මෙම හෙළිදරව්ව සිදු වූ දේ සඟවා තබනවා වෙනුවට, ඒ පිළිබඳව සැබැවින්ම විනිවිදභාවයකින් කටයුතු කර තිබීම විශේෂත්වයක් බව පැවසිය යුතුය. එය ඉතා වැදගත් කරුණකි.