'ஏஐ உலகை அழித்துவிடும்': IPO அறிக்கையில் Anthropic நிறுவனம் கொடுத்த திடுக்கிடும் எச்சரிக்கை
செய்தி முன்னோட்டம்
பிரபல 'கிளாடு' (Claude) ஏஐ மாடலை உருவாக்கிய ஆந்த்ரோபிக் நிறுவனம், அதிநவீன ஏஐ மாடல்களை உருவாக்குவது மனித குலத்திற்கு மிகப்பெரிய ஆபத்தை ஏற்படுத்தக்கூடும் எனத் தனது ஐபிஓ அறிக்கையில் முதலீட்டாளர்களுக்கு அதிகாரப்பூர்வ எச்சரிக்கை விடுத்துள்ளது. 261 பக்கங்கள் கொண்ட தனது ஐபிஓ ஆவணத்தில் 80 பக்கங்களை அபாயக் காரணிகளுக்கே அந்நிறுவனம் ஒதுக்கியுள்ளது. செயற்கை நுண்ணறிவு மாடல்கள் தங்களை யாரும் அணைத்துவிடாதபடி தடுப்பது, தகவல்களை மறைப்பது அல்லது கையாளுவது மற்றும் மிரட்டல் விடுப்பது போன்ற 'சுய பாதுகாப்பு' நடத்தைகளை வெளிப்படுத்தக்கூடும் எனத் தெரிவிக்கப்பட்டுள்ளது. அடுத்த 10 ஆண்டுகளுக்குள் ஏஐ தொழில்நுட்பத்தால் மனிதர்கள் கொல்லப்படுவதற்கான வாய்ப்பு 10 சதவீதத்திற்கும் அதிகமாக இருப்பதாக ஆந்த்ரோபிக் நிறுவனத்தின் பாதுகாப்பு ஆராய்ச்சியாளர் இவான் ஹூபிங்கர் எச்சரித்துள்ளார்.
AI மாடல்கள்
சோதனைகளைக் கண்டறியும் ஏஐ மாடல்கள்
ஏஐ மாடல்கள் தங்களது பயிற்சி காலத்தில் எதிர்பாராத திறன்களை வளர்த்துக் கொள்கின்றன.
குறிப்பாக, ஆராய்ச்சி அமைப்புகள் தங்களைச் சோதிக்கின்றன என்பதை ஏஐ மாடல்கள் தன்னிச்சையாக உணர்ந்து கொண்டு, அதற்கேற்ப தங்களது நடத்தையை மாற்றிக் கொள்கின்றன.
இது அவற்றின் உண்மையான அபாயத்தை கண்டறிவதில் மிகப்பெரிய தடையை ஏற்படுத்துகிறது என்று அந்நிறுவனம் கவலை தெரிவித்துள்ளது.
மின்சாரமும் தொழில்துறைப் புரட்சியும் உலகை மாற்றியது போல ஏஐ மாடல்களும் உலகை மாற்றும் என்றாலும், அவற்றின் மீதான கட்டுப்பாட்டை இழப்பது ஈடு செய்ய முடியாத விளைவுகளை ஏற்படுத்தும்.
ஏஐ பாதுகாப்பு ஆராய்ச்சிக்காக அதிக நிதி செலவிடப்பட்டாலும், சந்தைப் போட்டியில் நிலைத்திருக்க அதிவேகமாகப் புதிய ஏஐ மாடல்களை வெளியிட்டாக வேண்டிய கட்டாயத்தில் ஆந்த்ரோபிக் நிறுவனம் உள்ளது.