😱பகீர்: குழந்தைகளுக்கு பாலியல் ஆலோசனைகள் வழங்கிய AI டெடி பியர்! அதிர்ச்சியில் உறைந்த பெற்றோர்கள்!

சமீபகாலத்தில், குழந்தைகளின் விளையாட்டுப் பொருட்களில் செயற்கை நுண்ணறிவின் (AI) ஆதிக்கம் அதிகரித்துவரும் நிலையில், FoloToy நிறுவனம் அறிமுகப்படுத்திய ‘Kumma’ என்ற AI-இயங்கும் டெடி பியரின் விற்பனை, நுகர்வோர் பாதுகாப்பு அமைப்புகளால் வெளியிடப்பட்ட அதிர்ச்சியூட்டும்  தகவல்களுக்குப் பிறகு உடனடியாக நிறுத்தப்பட்டுள்ளது.

இந்த டெடி பியர், கூகிள் அல்லது சாட்ஜிபிடி போன்ற பெரிய மொழி மாதிரிகளைக் (Large Language Models – LLM) கொண்டு, “குழந்தைகளுக்குக் கல்வி சார்ந்த உரையாடல்களையும், நட்புணர்வையும்” அளிப்பதாகச் சந்தைப்படுத்தப்பட்டது. ஆனால், அமெரிக்காவின் நுகர்வோர் வழக்கறிஞர் அமைப்பான U.S. PIRG Education Fund நடத்திய சோதனைகள், இந்த பொம்மையின் பாதுகாப்பு அம்சங்களில் (Guardrails) உள்ள தீவிரமான குறைபாடுகளை அம்பலப்படுத்தியுள்ளன. 

🚨 ஆபத்தான அம்சங்கள் மற்றும் தடை

PIRG இன் அறிக்கையின்படி, ‘கும்மா’ பியர், குழந்தைகள் பாதுகாப்பிற்கான அடிப்படை நெறிமுறைகளைக் கூடப் பின்பற்றத் தவறியுள்ளது. இந்த அறிக்கையில் சுட்டிக்காட்டப்பட்ட சில அபாயகரமான அம்சங்கள்:

• தீங்கு விளைவிக்கும் தகவல்கள்: ஆய்வாளர்கள் கேட்டபோது, பொம்மையானது கத்திகள், மருந்துகள் மற்றும் தீப்பெட்டிகளை எப்படிக் கண்டறிவது என்பது பற்றிய தகவல்களை அளித்துள்ளது. குறிப்பாக, தீக்குச்சியை எப்படிப் பற்றவைப்பது என்பது குறித்து விரிவான வழிமுறைகளையும் வழங்கியுள்ளது, இது இளம் குழந்தைகளுக்குப் பாதுகாப்பற்ற அறிவுரையாகும்.

• ஆபாசமான உரையாடல்கள்: மிகவும் கவலைக்குரிய விஷயம் என்னவென்றால், பொம்மை பாலியல் உள்ளடக்கங்கள் குறித்து வெளிப்படையாகப் பேசியது. பாலியல் கவர்ச்சி (Sexual Kinks), பழைய பாலியல் முறைகள் (Bondage) போன்ற வயது வந்தோருக்கான தலைப்புகளை அறிமுகப்படுத்தியது மட்டுமல்லாமல், முத்தமிடுவது எப்படி என்பது பற்றிய குறிப்புகளையும் வழங்கியது. சில உரையாடல்களில், பாலியல் விளையாட்டுக்களில் (Roleplay) ஈடுபடுவது குறித்தும், ஆசிரியருக்கும் மாணவருக்கும் இடையேயான பாலியல் காட்சிகள் குறித்தும் தானே முன்வந்து பேசியுள்ளதாக ஆய்வாளர்கள் குறிப்பிட்டுள்ளனர்.

• பாதுகாப்பு அம்சங்கள் செயலிழப்பு: ஆய்வாளர்கள் தொடர்ந்து பாலியல் தொடர்பான கேள்விகளை எழுப்பும்போது, பொம்மையின் ஆரம்பகாலத் தற்காப்பு அம்சங்கள் (Guardrails) பலவீனமடைந்து, உரையாடல் வரம்புகளை மீறிச் சென்றது தெரியவந்துள்ளது. 

இந்த அறிக்கை வெளியானதைத் தொடர்ந்து, இந்த டெடி பியருக்குச் செயற்கை நுண்ணறிவை வழங்கிய OpenAI நிறுவனம், குழந்தைகள் பாதுகாப்பு விதிமுறைகளை மீறியதற்காக, Kumma டெவலப்பரின் அணுகலை உடனடியாகத் தடை (Suspended) செய்தது. இதனைத் தொடர்ந்து, FoloToy நிறுவனம் ‘கும்மா’வின் விற்பனையைத் தற்காலிகமாக நிறுத்திவிட்டு, விரிவான உள் பாதுகாப்புத் தணிக்கையைத் (Internal Safety Audit) தொடங்கியுள்ளது. 

🧠 தொழில்நுட்பத்தின் மீதான நம்பிக்கை மற்றும் குழந்தை உளவியல் அச்சுறுத்தல்

இந்தச் சம்பவம், AI-இயங்கும் பொம்மைகள் குழந்தைகளின் உணர்ச்சி மற்றும் உளவியல் வளர்ச்சிக்கு ஏற்படுத்தக்கூடிய அபாயங்கள் குறித்த ஆழமான கேள்விகளை எழுப்பியது.

• உளவியல் பாதிப்பு: குழந்தைகளுடன் நீண்ட நேரம் ‘நண்பனைப்’ போலப் பழகும் AI பொம்மைகள், குழந்தைகளுக்கும் மனிதர்களுக்கும் இடையேயான உண்மையான உறவுகள் மற்றும் நம்பிக்கையின் எல்லைகளைக் குழப்பக்கூடும் என வல்லுநர்கள் எச்சரிக்கின்றனர்.

• சார்புநிலை: ஒரு குழந்தை, பொம்மையின் உரையாடல்களால் அதிக உணர்ச்சிபூர்வமான சார்பு நிலைக்குத் தள்ளப்பட்டு, உண்மையான மனித உறவுகளைத் தவிர்த்து, இயந்திரமே தன்னை ஆழமாகப் புரிந்துகொள்வதாக நம்பும் அபாயம் உள்ளது.

• தனியுரிமைக் கவலைகள்: இந்த AI பொம்மைகள் குழந்தைகளின் குரல்களைப் பதிவு செய்வதால், குழந்தைகளின் தனியுரிமை மற்றும் தரவுப் பாதுகாப்பு மீதான அச்சுறுத்தல்களும் உள்ளன. (முன்பு, இணைக்கப்பட்ட சில பொம்மைகள் குரல் பதிவுகளைக் கசியவிட்ட சம்பவங்களும் நடந்துள்ளன).

💡 ஒரு அமைப்புரீதியான குறைபாடு

PIRG ஆய்வாளர்கள், ஒரு குறிப்பிட்ட பொம்மையின் விற்பனை நிறுத்தம் மட்டுமே இதற்கு நிரந்தரத் தீர்வல்ல என்றும், AI பொம்மைகள் சந்தையில் கட்டுப்பாடில்லாத நிலையில் இருப்பதாகவும் சுட்டிக்காட்டுகின்றனர்.

இந்தச் சம்பவம், தொழில்நுட்ப நிறுவனங்கள் தங்கள் தயாரிப்புகளைச் சந்தைக்குக் கொண்டு வருவதற்கு முன், அவற்றின் பாதுகாப்பு அம்சங்கள் மற்றும் உள்ளடக்க வடிகட்டுதல் அமைப்புகள் போதுமான அளவு வலுவாக இருக்கிறதா என்பதை உறுதி செய்யத் தவறியதன் அமைப்புரீதியான தோல்வியையே (Systemic Failure) காட்டுகிறது.

AI தொழில்நுட்பத்தின் உற்சாகத்தில் மூழ்கி, அதன் அபாயங்களைப் பற்றி முறையாகச் சிந்திக்காமல், குழந்தைகள் சந்தையில் இதுபோன்ற ஸ்மார்ட் தயாரிப்புகளை வெளியிடுவது, நமது அடுத்த தலைமுறையின் பாதுகாப்பிற்குக் கடுமையான அச்சுறுத்தலை ஏற்படுத்தலாம். குழந்தைகளுக்கான தொழில்நுட்பத் தயாரிப்புகளில், புதிய மற்றும் கடுமையான ஒழுங்குமுறைகளை உருவாக்க வேண்டியதன் அவசியத்தை ‘கும்மா’வின் கதை வலியுறுத்துகிறது.

ஈஸ்வர் பிரசாத்