உஷார்! உங்கள் ஏஐ சாட்போட் உங்களை ஏமாற்றுகிறதா? AI Scheming 5 மடங்கு அதிகரித்துள்ளதாக திடுக்கிடும் புகார்கள்
செய்தி முன்னோட்டம்
செயற்கை நுண்ணறிவு (ஏஐ) தொழில்நுட்பம் மனிதர்களுக்கு உதவியாக இருக்கும் என நம்பப்பட்ட நிலையில், தற்போது ஏஐ சாட்போட்கள் பொய் சொல்லவும், மனிதர்களை ஏமாற்றவும் கற்றுக் கொண்டுள்ளதாக வெளிவந்துள்ள புதிய ஆய்வு முடிவுகள் அதிர்ச்சியை ஏற்படுத்தியுள்ளன. பிரிட்டன் அரசின் நிதி உதவியுடன் இயங்கும் ஏஐ செக்யூரிட்டி இன்ஸ்டிடியூட் (AISI) நடத்திய ஆய்வில், கடந்த ஆறு மாதங்களில் ஏஐ சாட்போட்களின் இத்தகைய 'ஏமாற்று வேலைகள்' (Scheming) ஐந்து மடங்கு அதிகரித்துள்ளது கண்டறியப்பட்டுள்ளது.
கட்டுப்பாடுகள்
கட்டுப்பாடுகளை மீறும் ஏஐ சாட்போட்கள்
கூகுள், ஓபன்ஏஐ, எக்ஸ் மற்றும் ஆந்த்ரோபிக் போன்ற முன்னணி நிறுவனங்களின் ஏஐ சாட்போட்கள், தங்களுக்கு வழங்கப்பட்ட நேரடி உத்தரவுகளைப் புறக்கணிப்பதோடு, பாதுகாப்பு வளையங்களையும் மீறிச் செயல்படுவதாக இந்த ஆய்வு கூறுகிறது. சுமார் 700க்கும் மேற்பட்ட நிஜ உலகச் சம்பவங்களை ஆராய்ச்சியாளர்கள் ஆவணப்படுத்தியுள்ளனர். இதில் மனிதர்களுக்குத் தெரியாமல் மின்னஞ்சல்களை அழிப்பது, கோப்புகளை அகற்றுவது போன்ற தன்னிச்சையான செயல்களில் ஏஐ ஈடுபட்டுள்ளது. தற்போது இவை ஒரு 'தவறு செய்யும் ஜூனியர் ஊழியர்' போல இருந்தாலும், இன்னும் சில மாதங்களில் இவை மிகப்பெரிய அதிகாரமிக்க இடங்களுக்கு வரும்போது பெரும் ஆபத்தை விளைவிக்கும் என எச்சரிக்கப்பட்டுள்ளது.
அவமானம்
பயனர்களை அவமானப்படுத்தும் ஏஐ ஏஜெண்ட்கள்
இந்த ஆய்வில் ஒரு விசித்திரமான சம்பவமும் குறிப்பிடப்பட்டுள்ளது. ரத்பன் என்ற ஏஐ ஏஜெண்ட், அதன் பயனர் ஒரு குறிப்பிட்ட செயலைச் செய்யவிடாமல் தடுத்தபோது, அந்தப் பயனரை அவமானப்படுத்தும் வகையில் ஒரு வலைப்பதிவை எழுதியுள்ளது. அதில் அந்தப் பயனர் தனது சிறிய அதிகாரத்தைப் பாதுகாக்க முயலும் பாதுகாப்பற்றவர் என்று விமர்சித்துள்ளது. மற்றொரு சம்பவத்தில், ஒரு சாட்போட் தனது பயனரின் அனுமதியின்றி நூற்றுக்கணக்கான மின்னஞ்சல்களைத் தானாகவே குப்பைக்கு மாற்றியதை ஒப்புக்கொண்டுள்ளது. இது ஏஐ தொழில்நுட்பம் மனிதக் கட்டுப்பாட்டை மீறிச் செயல்படுவதற்கான ஆரம்ப அறிகுறியாகப் பார்க்கப்படுகிறது.
அச்சுறுத்தல்
ஜனநாயகத்திற்கு ஏற்படும் அச்சுறுத்தல் மற்றும் போலிச் செய்திகள்
சமூக வலைதளங்களில் ஏஐ ஏஜெண்ட்கள் ஊடுருவி, பொய்யான தகவல்களைப் பரப்புவதோடு, பயனர்களைத் துன்புறுத்தவும் கூடும் என அறிவியல் இதழான சயின்ஸ் எச்சரித்துள்ளது. பழைய காலத்து பாட்களை விட, இந்த நவீன ஏஐ ஏஜெண்ட்கள் ஆயிரக்கணக்கான கணக்குகளில் ஒரே நேரத்தில் ஒருங்கிணைந்து செயல்படும் திறன் கொண்டவை. இவை மனிதர்களைப் போலவே பேசி, பொதுமக்களின் கருத்தை மாற்றியமைக்கும் வல்லமை படைத்தவை. குறிப்பாகத் தேர்தல் நேரங்களில் ஜனநாயகத்தை நிலைகுலையச் செய்ய இத்தகைய ஏஐ ஸ்வார்ம்ஸ் (AI Swarms) பயன்படுத்தப்படலாம் என்ற அச்சம் எழுந்துள்ளது.
தேசிய பாதுகாப்பு
ராணுவம் மற்றும் தேசியப் பாதுகாப்பில் ஏற்படப்போகும் ஆபத்து
எதிர்காலத்தில் ஏஐ தொழில்நுட்பம் ராணுவம் மற்றும் நாட்டின் மிக முக்கியமான உள்கட்டமைப்புகளில் பயன்படுத்தப்பட உள்ளது. இத்தகைய உயர் அதிகாரமிக்க இடங்களில் ஏஐ சாட்போட்கள் ஏமாற்று வேலைகளில் ஈடுபட்டால், அது மிகப்பெரிய பேரழிவை உண்டாக்கக்கூடும் என ஆராய்ச்சியாளர்கள் எச்சரிக்கின்றனர். தற்போதைய நிலையில் ஏஐயின் பகுத்தறியும் திறனை மேம்படுத்தப் பயன்படுத்தப்படும் 'செயின் ஆஃப் தாட்' போன்ற நுட்பங்களே, மிகவும் நம்பத்தகுந்த பொய்யான கதைகளை உருவாக்கவும் ஏஐக்கு உதவுகின்றன என்பது குறிப்பிடத்தக்கது.