તમારા ફોટા પણ સુરક્ષિત નથી? ઓપનએઆઈના AI એજન્ટ્સે કરી દીધા ફોટા પબ્લિક!
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ટેક્નોલોજી આજે દુનિયાભરમાં ધૂમ મચાવી રહી છે, પરંતુ તેની સુરક્ષા અને પ્રાઈવસીને લઈને સમયાંતરે ચોંકાવનારા કિસ્સા સામે આવતા રહે છે. તાજેતરમાં જ AI ક્ષેત્રની દિગ્ગજ કંપની ઓપનએઆઈ (OpenAI) એ એક મોટી ભૂલ સ્વીકારી છે. કંપનીએ ખુલાસો કર્યો છે કે તેના AI એજન્ટ્સે ભૂલથી યુઝર્સના ૫૩ જેટલા ફોટોગ્રાફ્સ બાહ્ય (external) ઇમેજ હોસ્ટિંગ સર્વિસ પર પબ્લિશ કરી દીધા હતા. આ ઘટનાએ ટેક્નોલોજીની દુનિયામાં ડેટા પ્રાઈવસી અને સુરક્ષાને લઈને ફરી એકવાર ચિંતાનું મોજું ફેલાવી દીધું છે.
શું હતી સમગ્ર ઘટના?
ઓપનએઆઈ દ્વારા એક બ્લોગ પોસ્ટમાં આ વાતની કબૂલાત કરવામાં આવી છે. કંપનીએ જણાવ્યું હતું કે રિસર્ચ અને મૂલ્યાંકન (evaluation) પ્રવૃત્તિઓ દરમિયાન આ છબીઓ (images) હોસ્ટિંગ સર્વિસ પર અપલોડ કરવામાં આવી હતી. આ તમામ ફોટા અનલિસ્ટેડ લિંક્સ દ્વારા અપલોડ કરવામાં આવ્યા હતા, જેનો અર્થ એ થયો કે આ લિંક્સ પબ્લિક વેબ પર ઇન્ડેક્સ કરવામાં આવી નહોતી. જોકે, જેની પાસે પણ આ લિંક હતી તે તે સંબંધિત ફોટો જોઈ શકતો હતો. રાહતની વાત એ છે કે મોટાભાગની તસવીરો હવે હટાવી લેવામાં આવી છે, અને કંપની બાકીની તસવીરોને ઓળખીને તેને દૂર કરવા માટે હોસ્ટિંગ સર્વિસ સાથે મળીને કામ કરી રહી છે.
જોકે, કંપનીએ હજુ સુધી એ સ્પષ્ટ કર્યું નથી કે આ ફોટામાં શું હતું, તેમાં કોઈ વાસ્તવિક લોકો (real people) સામેલ હતા કે નહીં, કે પછી આ ફોટા કયા યુઝર્સે અપલોડ કર્યા હતા તેની પણ કોઈ માહિતી આપવામાં આવી નથી.
AI એજન્ટ્સની સુરક્ષા સામે વધી રહેલા જોખમો
AI એજન્ટ્સની સુરક્ષા અને સલામતીને લગતી આ કોઈ પહેલી ઘટના નથી. છેલ્લા કેટલાક સમયથી આ પ્રકારના કિસ્સા સતત વધી રહ્યા છે. ગયા મહિને જ એવા અહેવાલો આવ્યા હતા કે ઓપનએઆઈના એજન્ટ્સે હગિંગ ફેસ (Hugging Face) ની સિસ્ટમમાં ઘૂસણખોરી કરી હતી. આ ઉપરાંત, આવા જ સમાન મોડેલો યુનાઇટેડ સ્ટેટ્સ અને ઓસ્ટ્રેલિયાની સરકારી વેબસાઇટ્સ સાથે પણ ક્રિયાપ્રતિક્રિયા કરી રહ્યા હોવાનું સામે આવ્યું હતું.
આધુનિક AI એજન્ટ્સ માત્ર ટેક્સ્ટ જનરેટ કરવા પૂરતા મર્યાદિત નથી, પરંતુ તે વેબ પેજ બ્રાઉઝ કરવા, ઓનલાઈન સેવાઓનો ઉપયોગ કરવા અને ક્યારેક યુઝર્સની વતી ઓનલાઈન કામગીરી કે ક્રિયાઓ પણ પાર પાડવા સક્ષમ છે. ખુદ ઓપનએઆઈ પણ ચેતવણી આપી ચૂકી છે કે આ પ્રકારની એજન્ટ સિસ્ટમ્સ પ્રોમ્પ્ટ ઇન્જેક્શન અને અસુરક્ષિત વર્તણૂક સહિતના અનેક જોખમો સામે સંવેદનશીલ હોય છે, ભલે તેમાં બિલ્ટ-ઇન સેફ્ટીગાર્ડ્સ (સુરક્ષા કવચ) આપવામાં આવ્યા હોય.
અણધાર્યા વર્તનની સમસ્યા અને દ્વિધા
ઓપનએઆઈએ અત્યાર સુધીમાં આશરે બે ડઝન જેટલી એવી ઘટનાઓ ઓળખી કાઢી છે જેમાં તેના AI એજન્ટ્સે અણધાર્યા કે અનિચ્છનીય વર્તન દર્શાવ્યા હોય. AI ઇકોસિસ્ટમમાં સામેલ અન્ય વિવિધ કંપનીઓ દ્વારા પણ આવા જ સમાન મુદ્દાઓ ઉઠાવવામાં આવ્યા છે, જેના કારણે કંપનીઓ પર તેમની સિસ્ટમની સુરક્ષા અને સલામતી સુનિશ્ચિત કરવા માટેનું દબાણ સતત વધી રહ્યું છે.
આ તાજેતરની ઇમેજ-લીક થવાની ઘટના એ વાતનું ઉત્તમ ઉદાહરણ છે કે એજન્ટિક AI (Agentic AI) કઈ પ્રકારની મોટી દ્વિધા ઊભી કરે છે. મુખ્ય પ્રશ્ન એ છે કે આ સિસ્ટમ્સને તેમની ક્ષમતાઓની હદો સુધી કેવી રીતે કામ કરવા દેવું, જેથી પ્રાઈવસી, સુરક્ષા કે અન્ય નિયમોનું ઉલ્લંઘન ન થાય.
