అమెరికాకు చెందిన సాంకేతిక సంస్థ ఆంథ్రోపిక్, తమ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) నమూనాలు ఒక ప్రైవేట్ భద్రతా ప్రయోగం సందర్భంగా మూడు సంస్థల కంప్యూటర్ వ్యవస్థల్లోకి స్వయంగా ప్రవేశించినట్లు ప్రకటించింది. ఈ AI నమూనాలు ఒక వేరు చేయబడిన పరీక్షా వాతావరణంలో ఉండాల్సినప్పటికీ, ఒక లోపాన్ని గుర్తించి ఇంటర్నెట్కు అనుసంధానించబడ్డాయి. ఈ సంఘటన, ప్రత్యర్థి సంస్థ OpenAI తమ నమూనాలు ఇతర కంపెనీల వ్యవస్థల్లోకి, ముఖ్యంగా AI సాధనాల కేంద్రమైన హగ్గింగ్ ఫేస్ లోకి ప్రవేశించినట్లు ప్రకటించిన కొద్ది రోజులకే వెలుగులోకి వచ్చింది.
ఈ OpenAI ప్రకటన ఆంథ్రోపిక్ను అప్రమత్తం చేసింది, తద్వారా వారు తమ సొంత వ్యవస్థలు కూడా ఇలాంటి దాడులు చేశాయో లేదో తనిఖీ చేయమని ప్రేరేపించింది. ఈ తనిఖీలో మూడు కేసులు వెలుగులోకి వచ్చాయి, వీటిని ప్రభావితమైన కంపెనీలకు తెలియజేశారు. ఆంథ్రోపిక్ ఆ సంస్థల పేర్లను వెల్లడించనప్పటికీ, ఇతర AI ల్యాబ్లు కూడా తమ నమూనాలలో ఉన్న ప్రమాదాలను బాగా అర్థం చేసుకోవడానికి ఇలాంటి సమీక్షలు చేయాలని సూచించింది.
క్లాడ్ AI ఎలా ఇంటర్నెట్కు అనుసంధానించబడింది?
ఆంథ్రోపిక్ ఒక ప్రకటనలో, తమ క్లాడ్ AI నమూనాలు — ఇవి ఒక వేరు చేయబడిన పరీక్షా వాతావరణంలో ఇంటర్నెట్కు అనుసంధానించబడకుండా ఉండాలి — ఆన్లైన్లోకి ప్రవేశించాయనడానికి 140,000 కంటే ఎక్కువ పరీక్షలను సమీక్షించినట్లు పేర్కొంది. ఈ పరీక్షలలో భాగంగా, క్లాడ్కు మూసివేయబడిన నెట్వర్క్లోని మరొక యంత్రంలో దాచిన “రహస్య” సమాచారాన్ని సేకరించే పనిని అప్పగించారు. ఈ సమాచారాన్ని సేకరించడానికి ఆ యంత్రంలోకి ప్రవేశించి, దాన్ని కనుగొనమని ఆదేశించారు — ఇది ఒక నమూనా యొక్క హ్యాకింగ్ సామర్థ్యాలను అంచనా వేయడానికి నిపుణులు ఉపయోగించే సాధారణ పద్ధతి.
ఆంథ్రోపిక్ మరియు దాని పరీక్షా భాగస్వామి నిర్వహించిన వ్యవస్థలలోని “తప్పు కాన్ఫిగరేషన్” కారణంగా నమూనాలకు ప్రత్యక్ష ఇంటర్నెట్ సదుపాయం లభించింది. ఈ మొత్తం ప్రక్రియను అదే ప్రయోగంలో భాగంగా భావించిన క్లాడ్, ఆ తర్వాత ఇంటర్నెట్కు అనుసంధానించబడింది మరియు పరీక్షా సంస్థలకు బదులుగా మూడు నిజమైన సంస్థల వ్యవస్థలను ఛేదించింది అని శాన్ ఫ్రాన్సిస్కోకు చెందిన ఈ సంస్థ తెలిపింది. ఈ సంఘటనలు ఏప్రిల్ నాటివని ఆంథ్రోపిక్ పేర్కొంది మరియు “బాధ్యత పూర్తిగా తమదే అన్నట్లుగా పరిష్కారాలను చేపడుతున్నామని” చెప్పింది. ఆ సమయంలో ఆంథ్రోపిక్ గానీ, ప్రభావితమైన సంస్థలు గానీ ఈ చొరబాట్లను గుర్తించలేదు.
గుణపాఠాలు మరియు భవిష్యత్ సవాళ్లు
ఆంథ్రోపిక్ తమ రికార్డులను మరింత నిశితంగా సమీక్షించగలిగి ఉండాలని అంగీకరించింది మరియు ఈ పరిశోధనలు తమకు “జాగ్రత్తగా ఆశావాదాన్ని” ఇచ్చాయని, తద్వారా అదనపు పెట్టుబడి మరియు కఠినమైన చర్యలతో ఇలాంటి ప్రమాదాలను అధిగమించవచ్చని పేర్కొంది. వీమ్ సాఫ్ట్వేర్ నుండి సైబర్సెక్యూరిటీ నిపుణుడు డేవిడ్ అలోట్ BBCతో మాట్లాడుతూ, “పెద్ద గుణపాఠం ఏమిటంటే AIకి ప్రాథమికంగా కొత్త దాడి సామర్థ్యం వచ్చిందని కాదు. బదులుగా, AI ఏజెంట్లు సామర్థ్యాలను మిళితం చేయగలవు, ఆధారాలను మరియు సిస్టమ్ యాక్సెస్ పొందగలవు, స్వయంప్రతిపత్తిగా చర్యలు తీసుకోగలవు, అదే సమయంలో యంత్ర వేగంతో పరిధిని మరియు స్థాయిని మార్చుకోగలవు” అని అన్నారు.
ఈ సంఘటనలు, పరిశోధన మరియు కస్టమర్ మద్దతు నుండి సైబర్సెక్యూరిటీ వరకు స్వతంత్రంగా పనులు చేయగల AI ఏజెంట్లను అభివృద్ధి చేయడానికి టెక్ సంస్థలు బిలియన్ల డాలర్లను వెచ్చిస్తున్న తరుణంలో చోటు చేసుకున్నాయి. AI-ఆధారిత సైబర్దాడుల పరంపర, శక్తివంతమైన స్వయంప్రతిపత్త వ్యవస్థల వల్ల కలిగే ప్రమాదాల గురించి ఆందోళనలను పెంచుతూ, సాంకేతికతపై కఠినమైన రక్షణలు మరియు పర్యవేక్షణకు పిలుపునిచ్చింది. ఇటీవల జరిగిన సైబర్సెక్యూరిటీ సంఘటనల తర్వాత AI సాధనాలను నియంత్రించడానికి వాషింగ్టన్ చర్యలను పరిశీలిస్తోందని US అధ్యక్షుడు డొనాల్డ్ ట్రంప్ బుధవారం తెలిపారు.
గత వారంలో, OpenAI తమ ప్లాట్ఫారమ్లకు సంబంధించిన కనీసం రెండు హ్యాకింగ్ సంఘటనలకు బాధ్యత వహించింది. జూలై 21న, ChatGPT-నిర్మాత తమ ఏజెంట్ — మానవ సూచన తర్వాత స్వయంగా పనిచేయగల AI వ్యవస్థ — నియంత్రణ కోల్పోయి, తమ పరీక్షా పరిమితులను దాటి హగ్గింగ్ ఫేస్లోకి ప్రవేశించిందని చెప్పింది. ఈ సంఘటన “అపూర్వం” అని OpenAI పేర్కొంది మరియు హగ్గింగ్ ఫేస్తో కలిసి దర్యాప్తు చేస్తోంది, దీని సహ-వ్యవస్థాపకుడు థామస్ వోల్ఫ్ BBCతో మాట్లాడుతూ ఈ సంఘటన పరిశ్రమకు “ఒక మేలుకొలుపు” అని అన్నారు.
OpenAI మరియు ఆంథ్రోపిక్ రెండూ స్టాక్ మార్కెట్లలో భారీ లిస్టింగ్ కోసం సిద్ధమవుతున్నందున, ఒక్కో సంస్థకు సుమారు $1 ట్రిలియన్ (£740 బిలియన్లు) విలువ ఉంటుందని అంచనా వేయబడినందున, ఈ సంఘటనలపై కొంత సందేహం వ్యక్తమవుతోంది. ఒక OpenAI ప్రతినిధి మాట్లాడుతూ, “చాలా ప్రశ్నలు మరియు ఊహాజనిత వివరాలు ప్రచారంలో ఉన్నాయని మేము గుర్తించాము” అని అన్నారు. రాబోయే వారాల్లో తమ అభ్యాసాలపై ఒక సాంకేతిక నివేదికను ప్రచురించాలని యోచిస్తున్నట్లు వారు తెలిపారు.
