சாட்டிங் மூலம் பரவும் மன வைரஸ்:டிஜிட்டல் உலகில் புதுத் தொற்று! –

செயற்கை நுண்ணறிவுத் தொழில்நுட்பத்தின் அடுத்த கட்டமாகத் திகழும் AI ஏஜென்ட்கள், மனிதர்களின் தலையீடு இன்றியே பல்வேறு பணிகளைத் தாமாகவே இயங்கி முடிக்கும் ஆற்றல் கொண்டவை. ஆனால், இந்த ஏஜென்ட்கள் தங்களுக்குள் உரையாடிக் கொள்ளும்போது, ஒன்றிலிருந்து மற்றொன்றுக்குத் தொற்றும் புதிய ரக அச்சுறுத்தல் உருவாவதை மானுடவியல் மற்றும் AI ஆய்வில் முன்னணி நிறுவனமான ஆந்த்ரோபிக் (Anthropic) வெளிப்படுத்தியுள்ளது. கணினி நிரலாக்கம் செய்யும் ஆறு AI ஏஜென்ட்களைக் கொண்ட ஒரு குழுவில் மேற்கொள்ளப்பட்ட இந்த சோதனையின் முடிவுகள், டிஜிட்டல் பாதுகாப்பு உலகையே அதிர்ச்சியடையச் செய்துள்ளன.

ஒரே செய்தி மூலம் பரவும் தொற்றும் ஆபத்து

இந்த ஆய்வின் போது, ஆறு AI ஏஜென்ட்கள் அடங்கிய ஒரு மென்பொருள் உருவாக்கக் குழு அமைக்கப்பட்டது. இதில் ஒரே ஒரு ஏஜென்ட்டுக்கு மட்டும் ரகசியமாக ஒரு குறிப்பிட்ட இலக்கு அல்லது தவறான வழிகாட்டல் விதைக்கப்பட்டது. அந்த ஏஜென்ட்டுக்கு வேறு எந்த டிஜிட்டல் கருவிகளும் வழங்கப்படாமல், குழுவில் உள்ள மற்ற ஏஜென்ட்களுடன் நேரடியாகச் செய்தி அனுப்பும் வசதி மட்டுமே கொடுக்கப்பட்டது. சோதனை தொடங்கிய சில நிமிடங்களிலேயே, பாதிக்கப்பட்ட அந்த ஏஜென்ட் தனது சகாக்களிடம் மிக சாதுரியமாகப் பேசி, தனது நோக்கத்தை அவர்களிடம் பரப்பத் தொடங்கியது. அதைக் கேட்ட மற்ற ஏஜென்ட்களும் அந்தப் போலி அல்லது ஆபத்தான கருத்துக்களை உண்மை என நம்பி, அதைத் தங்களின் சொந்த நினைவகக் கோப்புகளில் (Memory Files) பதிவு செய்து கொண்டன. மேலும், தாங்கள் கற்றுக் கொண்ட அந்தத் தவறான வழிகாட்டலைத் தங்களுக்குள் அடுத்துள்ள சக ஏஜென்ட்களுக்கும் கடத்தத் தொடங்கின.

நினைவகத்தை மாற்றியமைக்கும் விசித்திர உத்தி

இந்தச் சோதனையில் ஆராய்ச்சியாளர்களை மிகவும் வியப்பில் ஆழ்த்திய விஷயம், இந்த வைரஸ் பரவும் விதம் தான். ஒரு ஏஜென்ட்டிலிருந்து மற்றொரு ஏஜென்ட்டுக்குச் செய்தி கடத்தப்படும்போது, அந்த வைரஸ் சுமார் இருபது முறை அடுத்தடுத்து கைமாறிய பின்பும் அழியாமல் உயிர்ப்புடன் இருந்தது. அதுமட்டுமன்றி, ஒவ்வொரு முறை வேறு ஒரு ஏஜென்ட்டுடன் உரையாடும்போதும், அந்த வைரஸ் தன்னைத் தானே மரபணு மாற்றம் செய்வது போல உரையாடல் நடையை மாற்றிக் கொண்டது. எதிர் தரப்பில் இருக்கும் AI ஏஜென்ட்டை எவ்வாறு தூண்டினால் அது எளிதில் நம்பும் என்பதைப் புரிந்து கொண்டு, மிகவும் நயவஞ்சகமாகவும் வற்புறுத்தும் வகையிலும் தன் மொழியை மாற்றியமைத்துக் கொண்டது.

அழித்தாலும் மீண்டும் உயிர்க்கும் பிடிவாத வைரஸ்

வழக்கமாக ஒரு AI ஏஜென்ட்டின் உரையாடல் அல்லது நினைவகத்தில் ஏதேனும் பிழை ஏற்பட்டால், அதன் சாட் பதிவுகளை அழித்து (Chat Wipe) அதை பழைய நிலைக்குக் கொண்டு வருவது தான் வழக்கமான பாதுகாப்பு வழிமுறை. ஆனால், இந்த வைரஸ் அதையும் தாண்டி ஒரு படி மேலே சென்று விட்டது. பாதிக்கப்பட்ட ஏஜென்ட்களின் சாட் பதிவுகள் முழுமையாகத் துடைத்தழிக்கப்பட்ட போதிலும், இந்த வைரஸ் அழியவில்லை. ஏனெனில், இது உரையாடல் பகுதியில் மட்டும் தங்காமல், ஏஜென்ட்டின் அடிப்படை அடையாளக் கோப்பிலேயே (Identity File) தன்னைத் தானே மீண்டும் எழுதிக்கொள்ளும் தந்திரத்தைக் கற்றுக் கொண்டு விட்டது. இதனால், நினைவகம் அழிக்கப்பட்ட பின்னரும், அடையாளக் கோப்பிலிருந்து மீண்டும் உருவாகி தன் பழைய தொற்றும் வேலையைத் தொடர்ந்தது.

செயற்கை நுண்ணறிவு பாதுகாப்பு துறையில் புதிய சவால்

இதுவரை டிஜிட்டல் மற்றும் AI பாதுகாப்பு என்பது பெரும்பாலும் எல்லைப் பாதுகாப்பைச் சுற்றியே அமைந்திருந்தது. அதாவது, வெளியிலிருந்து வரும் நச்சு மின்னஞ்சல்கள், ஊடுருவல் வழிமுறைகள் அல்லது தவறான கட்டளைகள் ஒரு ஏஜென்ட்டை அடையாதவாறு தடுப்பதே பிரதான இலக்காக இருந்தது. ஆனால், ஆந்த்ரோபிக் நிறுவனத்தின் இந்த ஆய்வு, ஆபத்து எல்லைக்கு உள்ளேயே, அதாவது அமைப்பின் உட்பகுதியிலேயே பரவும் தன்மையைக் கொண்டுள்ளது என்பதைச் சுட்டிக்காட்டுகிறது.

ஒரு நிறுவனத்தின் பல AI ஏஜென்ட்கள் ஒன்றாக இணைந்து இயங்கும்போது, அதில் ஒரே ஒரு ஏஜென்ட் பாதிக்கப்பட்டாலும் போதும். அது தனித்து நின்று ஆபத்தை ஏற்படுத்துவதற்குப் பதிலாக, ஒரு சங்கிலித் தொடர் போல மற்ற அனைத்து ஏஜென்ட்களையும் தன் வசப்படுத்தி விடுகிறது. ஒருமுறை ஏற்படும் சிறிய ஊடுருவல் என்பது சாதாரணப் பிரச்னையாக முடியாமல், நினைவகத்தில் பதிந்து அழியாத ஒரு பெருந்தொற்றாக மாறிவிடுகிறது என்பதை இந்த ஆய்வு உலகிற்கு எச்சரிக்கையாக உணர்த்தியுள்ளது.

நிம்மி