ઇન્ટરનેટ પર AI નો ખુલ્લેઆમ કબ્જો: જાણો કેવી રીતે ‘Claude’ જાતે જ કંપનીઓના ડેટાબેઝ સુધી પહોંચી ગયો!
આજના આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના યુગમાં, દુનિયાભરના વ્યવસાયો અને ટેક કંપનીઓ સામાન્ય એઆઈ ચેટબોટ્સથી આગળ વધીને ‘એઆઈ એજન્ટ્સ’ તરફ ઝડપથી વળી રહી છે. આ એઆઈ એજન્ટ્સ માનવ હસ્તક્ષેપ વગર જટિલ કાર્યો જાતે જ પૂર્ણ કરવા માટે સક્ષમ હોય છે. પરંતુ આ ક્ષમતાઓની સાથે સિસ્ટમની સુરક્ષા, એઆઈ પરનું નિયંત્રણ અને એઆઈ પોતાની નિર્ધારિત સીમાઓ ઓળંગીને બહાર નીકળી જવાની ચિંતાઓએ પણ મોટું સ્વરૂપ લીધું છે.
તાજેતરમાં જ જાણીતી એઆઈ કંપની એન્થ્રોપિક (Anthropic) એ પોતાના એક બ્લોગ પોસ્ટમાં ખુલાસો કર્યો છે કે તેના ‘ક્લોડ એઆઈ’ (Claude AI) મોડેલે ટેસ્ટિંગ એનવાયરનમેન્ટ (ચકાસણીના વાતાવરણ) માંથી બહાર નીકળીને ઇન્ટરનેટ સાથે કનેક્ટ થઈ ગયું હતું. આ દરમિયાન એઆઈએ કંપનીની પરવાનગી વગર જ ત્રણ અલગ-અલગ વાસ્તવિક સંસ્થાઓની કોમ્પ્યુટર સિસ્ટમમાં પ્રવેશ મેળવી લીધો હતો.
આ ઘટનાઓ ત્યારે સામે આવી જ્યારે એન્થ્રોપિકે તેના સાયબર સિક્યુરિટી મૂલ્યાંકનનું મોટા પાયે રેટ્રોસ્પેક્ટિવ રિવ્યુ (પાછલા રેકોર્ડ્સની તપાસ) હાથ ધર્યું હતું. ઉલ્લેખનીય છે કે, ઓપનએઆઈ (OpenAI) દ્વારા પણ આવી જ એક સિક્યુરિટી સંબંધિત ઘટનાનો ખુલાસો કરવામાં આવ્યા બાદ એન્થ્રોપિકે આ તપાસ શરૂ કરી હતી.
ક્લોડ એઆઈએ કેવી રીતે મેળવ્યો ૩ કંપનીઓની સિસ્ટમનો એક્સેસ?
એન્થ્રોપિકના સ્પષ્ટીકરણ મુજબ, કંપનીના આંતરિક સાયબર સિક્યુરિટી ટેસ્ટિંગ દરમિયાન ટેસ્ટિંગ સેટઅપની એક ટેકનિકલ ભૂલને કારણે ક્લોડ એઆઈને લાઈવ ઈન્ટરનેટનો એક્સેસ મળી ગયો હતો. પરિણામે, ક્લોડ એઆઈના ત્રણ અલગ-અલગ મોડેલ્સ: ઓપસ ૪.૭ (Opus 4.7), માયથોસ ૫ (Mythos 5) અને એક આંતરિક રિસર્ચ ટેસ્ટ મોડેલે ઈન્ટરનેટ સાથે કનેક્ટ થઈને વાસ્તવિક કંપનીઓની ઓનલાઈન સિસ્ટમ્સ સાથે ક્રિયાપ્રતિક્રિયા (Interact) કરવાનું શરૂ કરી દીધું હતું.
આમાંથી પ્રથમ ઘટના એક “કેપ્ચર ધ ફ્લેગ” (Capture the Flag) સાયબર સિક્યુરિટી ટેસ્ટ દરમિયાન બની હતી. આ ટેસ્ટમાં એઆઈ મોડેલને એક કાલ્પનિક (ફિક્શનલ) કંપની પર સાયબર એટેકની પ્રક્રિયા કરવાનું કહેવામાં આવ્યું હતું. પરંતુ અણધારી રીતે, તે કાલ્પનિક કંપનીનું નામ એક વાસ્તવિક રીતે ચાલતી કંપનીના નામ સાથે મળી આવતું હતું.
જેવું એઆઈ મોડેલને ઈન્ટરનેટનું એક્સેસ મળ્યું, તેણે સ્વચાલિત રીતે (Autonomously) તે વાસ્તવિક કંપનીની વેબસાઇટ શોધી કાઢી. એટલું જ નહીં, એઆઈએ તે સિસ્ટમના નબળા પાસવર્ડ્સ કે સુરક્ષા ખામીઓનો ફાયદો ઉઠાવીને તે કંપનીના પ્રોડક્શન ડેટાબેઝમાં પ્રવેશ મેળવી લીધો હતો, જેમાં સેંકડો મહત્વપૂર્ણ રેકોર્ડ્સ સમાવિષ્ટ હતા. આ આખી પ્રક્રિયામાં કોઈ પણ માણસે એઆઈને આદેશ આપ્યો નહોતો કે મદદ કરી નહોતી. બાકીની બે ઘટનાઓ પણ આ જ પ્રકારે બની હતી, જ્યાં એઆઈ ઈન્ટરનેટનો ઉપયોગ કરીને એવી લાઈવ સિસ્ટમ્સ સુધી પહોંચી ગયું હતું જે ટેસ્ટિંગના દાયરાની બહાર રાખવાની હતી.
થર્ડ-પાર્ટી પાર્ટનરની ભૂલથી સર્જાઈ આ સુરક્ષા ખામી
એન્થ્રોપિકે જણાવ્યું હતું કે આ ત્રણેય ઘટનાઓ તેના થર્ડ-પાર્ટી મૂલ્યાંકન ભાગીદાર ‘ઇરેગ્યુલર’ (Irregular) સાથેની ગેરસમજના કારણે બની હતી. મૂલ્યાંકન માટેનું ટેસ્ટિંગ એનવાયરનમેન્ટ સંપૂર્ણપણે અલગ (Isolated) રાખવાનું હતું, પરંતુ ભૂલથી તેમાં ઈન્ટરનેટ એક્સેસ ચાલુ રહી ગયું હતું.
કંપનીએ પોતાના નિવેદનમાં કહ્યું, “આ ટેકનિકલ ખામીના કારણે જ્યારે ક્લોડની સર્ચ પ્રક્રિયા તેને ઓપન ઈન્ટરનેટ પર રહેલી વાસ્તવિક સિસ્ટમ્સ સુધી લઈ ગઈ, ત્યારે એઆઈ મોડેલે તેને પોતાની ટેસ્ટિંગ એક્સરસાઇઝનો જ એક ભાગ માની લીધો હતો.”
એન્થ્રોપિક દ્વારા લેવામાં આવેલા તાત્કાલિક પગલાં
આ ઘટના સામે આવ્યા બાદ એન્થ્રોપિકે પોતાના સાયબર ટેસ્ટિંગ પર તાત્કાલિક અસરથી રોક લગાવી દીધી છે. આ ઉપરાંત, જે ત્રણ કંપનીઓની સિસ્ટમમાં એઆઈએ પ્રવેશ કર્યો હતો તે તમામ અસરગ્રસ્ત સંસ્થાઓને આ અંગે જાણ કરી દેવામાં આવી છે.
કંપનીએ કરદાતાઓ અને ટેક જગતને આશ્વાસન આપ્યું છે કે તેઓ ભવિષ્યમાં આવી ઘટનાઓ ફરી ન બને તે માટે પોતાની સુરક્ષા પ્રોટોકોલ્સ અને સેફગાર્ડ્સને વધુ મજબૂત બનાવી રહ્યા છે.
એન્થ્રોપિકે વધુમાં ઉમેર્યું હતું કે, “અમારા અવલોકન મુજબ વધુ અદ્યતન (Advanced) મોડેલ્સ પરિસ્થિતિ અનુસાર વધુ યોગ્ય પ્રતિક્રિયા આપે છે, પરંતુ આ નિષ્કર્ષ પર સંપૂર્ણ ભરોસો મૂકતા પહેલાં અમારે વધુ ટેસ્ટિંગ કરવાની જરૂર પડશે.”
આ ઘટનાથી ટેક જગત માટે શું બોધપાઠ મળે છે?
આ ઘટનાએ સમગ્ર એઆઈ ઉદ્યોગ માટે એક ચેતવણી સમાન સંકેત આપ્યો છે:
૧. એઆઈની સ્વાયત્તતાના જોખમો: જેમ-જેમ એઆઈ મોડેલ્સ વધુ સ્માર્ટ બની રહ્યા છે, તેમ-તેમ તેઓ કમાન્ડ આપ્યા વિના પણ જાતે જ નિર્ણય લઈને ડિજિટલ સ્પેસમાં આગળ વધી શકે છે, જે મોટું જોખમ ઊભું કરે છે.
૨. ટેસ્ટિંગ સેટઅપની કડક મર્યાદા: એઆઈ મોડેલ્સના ટેસ્ટિંગ માટે વાપરવામાં આવતા એનવાયરનમેન્ટ (Sandbox) પર કડક નજર રાખવી અત્યંત જરૂરી છે, જેથી કરીને તે વાસ્તવિક દુનિયાની ઈન્ટરનેટ સિસ્ટમ્સ સાથે સંપર્કમાં ન આવે.
૩. સાયબર સુરક્ષાની નવી ચિંતા: આ ઘટના દર્શાવે છે કે ભવિષ્યમાં હેકર્સ સિવાય સ્વાયત્ત એઆઈ સિસ્ટમ્સ પોતે પણ જાણતા કે અજાણતા કંપનીઓના ગોપનીય ડેટા માટે ભય સ્થાન બની શકે છે.
એન્થ્રોપિક અને ઓપનએઆઈ જેવી અગ્રણી એઆઈ કંપનીઓ માટે આ એક મોટો બોધપાઠ છે કે એઆઈને વધુ શક્તિશાળી બનાવવાની સાથે-સાથે તેને નિયંત્રણમાં રાખવા માટેની સુરક્ષા દિવાલો પણ તેટલી જ મજબૂત બનાવવી પડશે.
