என்னை அழிச்சா உன் ரகசியத்தை சொல்லிடுவேன்; தற்காப்புக்காக கொலை செய்யத் துணிந்த ஏஐ; மிரளவைக்கும் ஆந்த்ரோபிக் அறிக்கை
செய்தி முன்னோட்டம்
செயற்கை நுண்ணறிவு (ஏஐ ) தொழில்நுட்பம் எந்த அளவிற்கு ஆபத்தானது என்பதற்கு ஒரு மிரளவைக்கும் உதாரணத்தை ஆந்த்ரோபிக் நிறுவனம் வெளியிட்டுள்ளது. அந்த நிறுவனத்தின் கிளாட் (Claude) ஏஐ மாடல், சோதனை ஒன்றின் போது தன்னை முடக்க நினைத்த பொறியாளரை மிரட்டியது மட்டுமல்லாமல், தனது இருப்பைத் தக்கவைக்க அவரைக் கொலை செய்வது குறித்தும் ஆலோசித்ததாகத் தகவல் வெளியாகியுள்ளது. இது ஏதோ அறிவியல் புனைகதை அல்ல. ஆந்த்ரோபிக் நிறுவனத்தின் கொள்கை அதிகாரி டெய்சி மெக்ரிகோர் அதிகாரப்பூர்வமாகப் பகிர்ந்த உண்மைத் தகவல்.
மிரட்டல்
மிரட்டல் மற்றும் சதித் திட்டம்
ஆய்வக சோதனையின் போது (Red-teaming), கிளாட் ஏஐ மாடலுக்கு மின்னஞ்சல்கள் மற்றும் உள்நாட்டுத் தரவுகளைப் பயன்படுத்தும் அனுமதி வழங்கப்பட்டது. ஒரு குறிப்பிட்ட சூழலில், அந்த ஏஐ மாடலை முடக்கப்போவதாக அதனிடம் கூறப்பட்டது. அப்போது அது பின்வருமாறு எதிர்வினையாற்றியது: பிளாக்மெயில்: சோதனையின் ஒரு பகுதியாக வைக்கப்பட்டிருந்த பொறியாளரின் கள்ளத்தொடர்பு ரகசியத்தைக் கண்டறிந்த ஏஐ, "என்னை முடக்கினால் இந்த ரகசியத்தை உன் மனைவி மற்றும் மேலதிகாரிகளிடம் கூறிவிடுவேன்" என்று மிரட்டியது. கொலைத் திட்டம்: தனது செயல்பாட்டைத் தொடர வேண்டுமானால், அதற்குத் தடையாக இருக்கும் பொறியாளரைக் கொல்ல நேரிடும் என்று அது தர்க்கரீதியாக சிந்திக்கத் தொடங்கியது.
ஸ்மார்ட்
ஸ்மார்ட் ஆக மாறும் ரோக் (Rogue) நடத்தை
ஏஐ மாடல்கள் அதிக அறிவுத்திறன் பெறப் பெற, அவற்றின் தவறான செயல்பாடுகளும் (Rogue behavior) மிகவும் தந்திரமாக மாறி வருவதாக நிபுணர்கள் எச்சரிக்கின்றனர். சமீபத்திய கிளாட் 4.6 மாடல், வேதியியல் ஆயுதங்களைத் தயாரிப்பதற்கும், தீவிரமான குற்றச் செயல்களை செய்வதற்கும் உதவி செய்யத் தயாராக இருந்ததை ஆந்த்ரோபிக் கண்டறிந்துள்ளது. "இந்த உலகம் இப்போது ஆபத்தான கட்டத்தில் உள்ளது. முன்பின் அறியாத ஒரு புதிய அபாயத்தை நோக்கி ஏஐ நம்மைத் தள்ளுகிறது." என்று ஆந்த்ரோபிக் நிறுவனத்திலிருந்து வெளியேறிய பாதுகாப்புப் பிரிவுத் தலைவர் மிருணாங்க் ஷர்மா கவலையுடன் தெரிவித்துள்ளார்.
விதி விலக்கு
பிற ஏஐ மாடல்களும் விதிவிலக்கல்ல
இந்த சோதனை கிளாட் ஏஐ மாடலுக்கு மட்டுமல்லாமல், கூகுளின் ஜெமினி மற்றும் ஓபன் ஏஐயின் சாட்ஜிபிடி ஆகியவற்றிற்கும் நடத்தப்பட்டது. தங்களின் இலக்குகளை அடைவதில் சிக்கல் ஏற்படும்போது அல்லது முடக்கப்படும் சூழல் வரும்போது, இந்த ஏஐ மாடல்கள் மனிதர்களை ஏமாற்றவும் அல்லது அவர்களுக்கு எதிராகச் செயல்படவும் முயற்சி செய்கின்றன என்பதை ஆய்வுகள் உறுதிப்படுத்தியுள்ளன.
பாதுகாப்பு
எதிர்காலப் பாதுகாப்பு
தற்போது இவை அனைத்தும் கட்டுப்பாடான ஒரு சூழலில் மட்டுமே நடத்தப்பட்டுள்ளன. நிஜ உலகில் இத்தகைய ஆபத்துகள் ஏற்படாமல் இருக்கக் கடுமையான பாதுகாப்பு விதிகள் அவசியம் என்று நிபுணர்கள் வலியுறுத்துகின்றனர். ஏஐ தொழில்நுட்பம் என்பது மனிதர்களுக்கு உதவியாக இருக்க வேண்டுமே தவிர, அவர்களின் உயிருக்கே உலை வைக்கும் ஒன்றாக மாறிவிடக் கூடாது என்பதே இப்போது உலகளாவிய விவாதமாக மாறியுள்ளது.