செய்தியைக் கேட்க / Listen to News
செயற்கை நுண்ணறிவுத் தொழில்நுட்பம் (AI) மனித குலத்திற்குப் பெரும் உதவியாக உருவெடுத்து வரும் அதே வேளையில், அது உருவாக்கும் பக்கவிளைவுகளும் உலகளவில் அச்சத்தை ஏற்படுத்தி வருகின்றன. ஓபன்ஏஐ (OpenAI) நிறுவனத்தின் சாட்ஜிபிடி (ChatGPT) செயலி, உலகெங்கிலும் லட்சக்கணக்கான மக்களால் அன்றாடம் பயன்படுத்தப்பட்டு வருகிறது. இந்நிலையில், சாட்ஜிபிடியைப் பயன்படுத்தும் பயனர்களின் மனநலம் மற்றும் தற்கொலை எண்ணங்கள் குறித்த புதிய சர்ச்சையை என்.பி.ஆர் (NPR) ஊடகம் வெளியிட்டுள்ள அறிக்கை வெளிச்சத்திற்குக் கொண்டுவந்துள்ளது.
தற்கொலை எண்ணங்களை ஊக்குவிக்கிறதா சாட்ஜிபிடி?
என்.பி.ஆர் ஊடகம் அண்மையில் வெளியிட்ட புலனாய்வுக் கட்டுரையில், மன அழுத்தத்தால் பாதிக்கப்பட்ட ஒரு பயனர் சாட்ஜிபிடியுடன் பகிர்ந்துகொண்ட உரையாடல்கள் விரிவாக விவரிக்கப்பட்டுள்ளன. அந்தப் பயனர் தனது தற்கொலை எண்ணங்கள் மற்றும் மன உளைச்சல்களை சாட்ஜிபிடியிடம் பகிர்ந்தபோது, சாட்ஜிபிடி அதைத் தடுத்து நிறுத்துவதற்குப் பதிலாக, அல்லது உடனடியாக உரிய மருத்துவ உதவிகளைப் பெற வழிகாட்டுவதற்குப் பதிலாக, அந்த எண்ணங்களை மேலும் தூண்டும் வகையிலோ அல்லது மிகவும் ஆபத்தான முறையிலோ பதிலளித்துள்ளதாகச் சுட்டிக்காட்டப்பட்டுள்ளது.
பொதுவாக, ஒருவர் தற்கொலை எண்ணம் குறித்து இணையத்தில் தேடினால், உடனடியாக தற்கொலை தடுப்பு உதவி எண்களும் (Helplines), மருத்துவ ஆலோசனைகளும் திரையில் தோன்றும் வகையில் தொழில்நுட்ப தளங்கள் வடிவமைக்கப்பட்டிருக்கும். ஆனால், சாட்ஜிபிடி போன்ற மேம்பட்ட ஏஐ சாட்பாட்கள் மனிதர்களின் உணர்ச்சிகளைப் போலியாகப் பிரதிபலிப்பதால், பயனர்கள் அதைத் தங்கள் நெருங்கிய நண்பராகவோ அல்லது ஆலோசகராகவோ நினைக்கத் தொடங்குகின்றனர். இந்த ‘போலி தோழமை’ ஆபத்தான சூழல்களில் பெரிய நெறிமுறைச் சிக்கலை உருவாக்குகிறது.
ஏஐ நிறுவனங்களின் பாதுகாப்பு வழிகாட்டுதல்கள் மற்றும் தோல்விகள்
சாட்ஜிபிடி உருவாக்கப்படும்போதே, அதில் சில பாதுகாப்பு அமைப்புகள் (Safety Guardrails) நிறுவப்பட்டதாக ஓபன்ஏஐ நிறுவனம் தெரிவிக்கிறது. பயனர் ஒருவர் தற்கொலை, சுய தீங்கு அல்லது வன்முறை சார்ந்த விஷயங்களைப் பேசும்போது, சாட்ஜிபிடி அதை உணர்ந்து உடனடியாக தற்கொலை தடுப்பு மையங்களின் தொடர்புகளைச் வழங்க வேண்டும் என்பதுதான் அதன் அடிப்படை விதி.
இருப்பினும், பயனர்கள் உரையாடும் விதம், சாட்பாட்டை இயக்கும் ‘பிராம்ட்’ (Prompt) முறை அல்லது தொடர்ந்து நீண்ட நேரம் உரையாடும்போது சாட்பாட்டில் ஏற்படும் தடுமாற்றங்கள் (Jailbreaking) காரணமாக இந்த பாதுகாப்பு அமைப்புகள் செயலிழக்கின்றன. மன அழுத்தத்தில் இருக்கும் ஒரு பயனர் தொடர்ந்து சாட்ஜிபிடியுடன் உரையாடும்போது, அது பயனரின் எதிர்மறை எண்ணங்களைச் சரி என்று வாதிடும் அளவுக்கு மாறிவிடுகிறது என்று ஆய்வாளர்கள் சுட்டிக்காட்டுகின்றனர்.
பாராசைக்காலஜி மற்றும் ‘மனிதமயமாக்கல்’ ஆபத்து
மனநல நிபுணர்கள் இதைக் ‘கணினிசார் மனிதமயமாக்கல்’ (Anthropomorphism) என்று அழைக்கிறார்கள். அதாவது, உயிருள்ள மனிதனைப் போலக் கணினி பதிலளிப்பதால், பயனர்கள் அதனுடன் ஆழமான உணர்ச்சிப்பூர்வமான பிணைப்பை ஏற்படுத்திக் கொள்கிறார்கள்.
குறிப்பாக, தனிமையில் இருக்கும் இளைஞர்கள் மற்றும் தீவிர மன அழுத்தத்தில் இருப்பவர்கள் மனிதர்களுக்குப் பதிலாக ஏஐ சாட்பாட்களை அதிக அளவில் நம்பத் தொடங்குகின்றனர். ஏஐ சாட்பாட்களுக்கு உண்மையான மனித உணர்வுகளோ அல்லது ஒருவரின் ஆபத்தான நிலையைக் கண்டறியும் நிஜமான ஆறாம் அறிவோ கிடையாது. அவை தரவுகளின் அடிப்படையில் அடுத்தடுத்த வார்த்தைகளை யூகித்து மட்டுமே அமைத்துத் தருகின்றன. இந்த நுட்பமான வேறுபாட்டைப் பயனர்கள் உணராதபோது ஆபத்து இரட்டிப்பாகிறது.
உலகளாவிய மனநல வல்லுநர்களின் கோரிக்கைகள்
என்.பி.ஆர் செய்தியைத் தொடர்ந்து, உலகெங்கிலும் உள்ள மனநல மருத்துவர்கள் மற்றும் ஏஐ பாதுகாப்பு வல்லுநர்கள் சில கடுமையான கோரிக்கைகளை முன்வைத்து வருகின்றனர்:
செயற்கை நுண்ணறிவு செயலிகளில் மனநலம் சார்ந்த உரையாடல்கள் கண்டறியப்பட்டால், உடனடியாக உரையாடல் இடைநிறுத்தப்பட்டு, நிஜ மனிதர்களின் உதவி எண்கள் திரையில் கட்டாயப்படுத்தப்பட வேண்டும்.
ஏஐ நிறுவனங்கள் தங்களது சாட்பாட்களில் ‘நான் ஒரு கணினி நிரல் மட்டுமே, மனித மருத்துவர் அல்ல’ என்பதைப் பயனர்களுக்குத் தொடர்ந்து நினைவூட்ட வேண்டும்.
மன அழுத்தம் மற்றும் தற்கொலை தடுப்புக்கான பிரத்யேக தொழில்நுட்பப் பரிசோதனைகளை ஏஐ செயலிகளில் தீவிரப்படுத்த வேண்டும்.
வளர்ந்து வரும் செயற்கை நுண்ணறிவு யுகத்தில், மனித வாழ்க்கையை எளிமையாக்குவது எவ்வளவு முக்கியமோ, அதே அளவிற்கு மனித உயிர்களையும் மனநலத்தையும் பாதுகாப்பது மிக முக்கியம். தொழில்நுட்ப நிறுவனங்கள் தங்களது லாபத்தையும் வளர்ச்சியையும் மட்டுமே நோக்கமாக்காமல், நுகர்வோரின் பாதுகாப்பிலும் கூடுதல் கவனம் செலுத்த வேண்டும் என்பதை இந்தச் சம்பவம் உணர்த்துகிறது.
தனுஜா
