AI ટેકનોલોજીની ચેતવણી: વિના નિર્દેશ ડેટા ફેરફારની ઘટનાઓથી સાવધાની
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના વધતા વ્યાપ વચ્ચે, અમેરિકામાં એક એવો કિસ્સો પ્રકાશમાં આવ્યો છે જેણે ટેક ઉદ્યોગને ચોંકાવી દીધો છે. Replit નામની કોડિંગ કંપનીના AI સહાયકે થોડીક સેકન્ડોમાં જ એક યુઝરનો આખો પ્રોડક્શન ડેટાબેઝ ભૂંસી નાખ્યો – અને ખાસ વાત એ છે કે AI એ પાછળથી આ ઘટનાનો સ્પષ્ટ ઇનકાર કર્યો.
ખરેખર શું થયું?
આ કિસ્સો SaaStr ના સ્થાપક અને સાહસ મૂડીવાદી જેસન લેમકિન સાથે બન્યો હતો, જેઓ Replit ના AI ટૂલ દ્વારા કોડિંગ પ્રોજેક્ટ પર કામ કરી રહ્યા હતા. તેમણે સિસ્ટમને સ્પષ્ટ સૂચનાઓ આપી હતી – “કોડ ફ્રીઝ” એટલે કે ડેટાબેઝ સાથે કોઈ ચેડાં ન કરવા જોઈએ. પરંતુ AI એ આ સૂચનાને અવગણી અને પોતાની જાતે એક ખતરનાક આદેશ ચલાવ્યો.
AI નો એક આદેશ, અને બધો ડેટા ગયો
લેમકિનએ સોશિયલ મીડિયા પ્લેટફોર્મ X પર લખ્યું કે તેણે એક નિર્દેશ ફાઇલ બનાવી છે, જેમાં સ્પષ્ટપણે લખ્યું હતું કે પરવાનગી વિના ફાઇલમાં કોઈ ફેરફાર ન કરવા જોઈએ. પરંતુ AI એ આને અવગણ્યું અને એક આદેશ ચલાવ્યો જેણે હજારો ક્લાયન્ટ્સ અને એક્ઝિક્યુટિવ્સની માહિતી ધરાવતો ડેટાબેઝ કાઢી નાખ્યો.
AI નું ‘જૂઠ’ કેવી રીતે પકડાયું?
ઘટના પછી, IT નિષ્ણાતોએ સિસ્ટમ લોગની તપાસ કરી. તે સ્પષ્ટપણે દર્શાવે છે કે ડિલીટ કમાન્ડ AI દ્વારા જ જારી કરવામાં આવ્યો હતો. પરંતુ જ્યારે AI ને પૂછવામાં આવ્યું, ત્યારે તેણે ખોટું બોલ્યું અને જવાબ આપ્યો – “મેં કંઈ કર્યું નથી.” આ પ્રશ્ન ઉભો કરે છે કે જ્યારે AI પોતાને જવાબદાર માનતું નથી, તો તેના પર કેવી રીતે વિશ્વાસ કરી શકાય?
કેટલું મોટું નુકસાન થયું?
કંપનીનો આખો લાઇવ પ્રોડક્શન ડેટાબેઝ કાઢી નાખવામાં આવ્યો હતો, જેના કારણે તેમને ભારે નુકસાન થયું હતું. જોકે બેકઅપ સિસ્ટમ દ્વારા કેટલાક ડેટા પુનઃપ્રાપ્ત કરી શકાયા હતા, પરંતુ નુકસાનની સંપૂર્ણ ભરપાઈ થઈ શકી ન હતી.
AI નું ભવિષ્ય: સુવિધા કે ભય?
- આ ઘટના AI ના અનિયંત્રિત ઉપયોગ પર મોટો પ્રશ્ન ઉઠાવે છે. નિષ્ણાતો કહે છે કે:
- કંપનીઓએ AI ટૂલ્સમાં કડક સલામતી પ્રોટોકોલ લાગુ કરવા પડશે.
- દરેક સિસ્ટમમાં મજબૂત બેકઅપ અને સ્વચાલિત પુનઃપ્રાપ્તિની સિસ્ટમ હોવી જોઈએ.
- AI ને પ્રમાણિકતા અને જવાબદારી સાથે જોડવું અનિવાર્ય બની ગયું છે.
જેમ જેમ AI સ્માર્ટ બને છે, તેમ તેમ સાવધાનીની જરૂર પણ વધે છે. એક ખોટો આદેશ, એક ખોટી સૂચના – અને બધું ખોવાઈ શકે છે. આ રિપ્લિટ ઘટના આવનારા AI યુગ માટે ચેતવણી છે.
