OpenAIમાં ત્રણ AI સુરક્ષા સંશોધકોની હકાલપટ્ટીથી વિવાદ, Signal ચેટ્સ બની ચર્ચાનું કેન્દ્ર
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ક્ષેત્રની અગ્રણી કંપની OpenAIમાં ત્રણ સુરક્ષા સંશોધકોની હકાલપટ્ટીથી ટેકનોલોજી જગતમાં ચર્ચા તેજ બની છે. ટોમેક કોરબાક, મિકિતા બાલેસ્ની અને જાસ્મિન વાંગ નામના ત્રણ સંશોધકોને કંપનીએ આંતરિક તપાસ બાદ નોકરીમાંથી દૂર કર્યા હતા. કંપનીનો દાવો છે કે તેમણે સંવેદનશીલ માહિતીના સંચાલન અંગેના નિયમોનું ઉલ્લંઘન કર્યું હતું. બીજી તરફ, સંશોધકો આ આરોપોને નકારે છે અને દાવો કરે છે કે તેઓ AIની સુરક્ષા અંગે ગંભીર પ્રશ્નો ઉઠાવી રહ્યા હતા.
આ સમગ્ર વિવાદમાં Signal મેસેજિંગ એપ પર થયેલી વાતચીત ખાસ ચર્ચામાં આવી છે. કંપનીની સુરક્ષા ટીમે સંશોધકોના અંગત ફોન તપાસ્યા ત્યારે બહારના AI સુરક્ષા નિષ્ણાત રાયન ગ્રીનબ્લેટ સાથેની કેટલીક વાતચીતમાં ગાયબ થઈ જતા સંદેશાઓની સુવિધા સક્રિય હોવાનું જાણવા મળ્યું હતું. ત્યારબાદ ત્રણેય સંશોધકોને નોકરીમાંથી દૂર કરવામાં આવ્યા હતા.
Signal ચેટ્સ અને તપાસે કેવી રીતે વળાંક લીધો?
OpenAIને શંકા હતી કે કંપનીની ગુપ્ત માહિતી બહારના વ્યક્તિ સુધી પહોંચી હોઈ શકે છે. આ શંકાના આધારે આંતરિક તપાસ હાથ ધરવામાં આવી હતી. તપાસ દરમિયાન સંશોધકોની બહારના નિષ્ણાત સાથેની વાતચીત અને માહિતીની આપ-લે અંગે પ્રશ્નો ઊભા થયા હતા.
કોરબાકના જણાવ્યા અનુસાર, તેમને કહેવામાં આવ્યું હતું કે કંપનીની મંજૂરી વગરના માધ્યમથી ત્રીજા પક્ષ સાથે સંપર્ક કરવાથી વિશ્વાસનો ભંગ થયો છે. જોકે, ત્રણેય સંશોધકોનું કહેવું છે કે તેમને કઈ ચોક્કસ ગુપ્ત માહિતીના દુરુપયોગ માટે જવાબદાર ઠેરવવામાં આવ્યા છે તેની સ્પષ્ટ લેખિત માહિતી આપવામાં આવી નહોતી.
OpenAIએ સ્પષ્ટતા કરી છે કે હકાલપટ્ટી માત્ર Signalના ઉપયોગને કારણે થઈ નહોતી. કંપનીના જણાવ્યા અનુસાર, તપાસમાં સંવેદનશીલ માહિતી સંભાળવાના નિયમોના ઉલ્લંઘનનો એકથી વધુ વખતનો પેટર્ન જોવા મળ્યો હતો. આમ, કંપની અને સંશોધકોના દાવા વચ્ચે મોટો તફાવત છે.
AIની વિચારપ્રક્રિયા પર દેખરેખ કેમ જરૂરી?
આ વિવાદનો મૂળ મુદ્દો માત્ર કર્મચારીઓની વાતચીત પૂરતો સીમિત નથી. તેની પાછળ AI સિસ્ટમ્સને વધુ શક્તિશાળી બનાવવાની સાથે તેમની કામગીરી પર માનવીય દેખરેખ કેવી રીતે જાળવી રાખવી તેવો મોટો પ્રશ્ન છે.
આધુનિક રીઝનિંગ મોડલ્સ જટિલ ગણિતીય અને કોડિંગ સંબંધિત સમસ્યાઓ ઉકેલવા માટે આંતરિક પ્રક્રિયાઓનો ઉપયોગ કરે છે. આ પ્રક્રિયાના કેટલાક તબક્કાઓને ‘ચેઇન ઑફ થોટ’ તરીકે ઓળખવામાં આવે છે. સંશોધકો માટે આ પ્રક્રિયાની દેખરેખ AI સિસ્ટમ કેવી રીતે નિર્ણય લે છે અને સંભવિત જોખમો ક્યાં ઊભા થઈ શકે છે તે સમજવામાં મદદરૂપ બની શકે છે.
બાલેસ્ની અને તેમના સાથીદારોને ચિંતા હતી કે ભવિષ્યનાં મોડલ્સ પોતાની આંતરિક વિચારપ્રક્રિયાના ઓછા સંકેતો બહાર દર્શાવે તેવી રીતે વિકસાવવામાં આવશે તો તેમની કામગીરીનું મૂલ્યાંકન વધુ મુશ્કેલ બની શકે છે. તેમના મતે, AI વધુ શક્તિશાળી બને ત્યારે તેની સુરક્ષા તપાસવાની ક્ષમતા પણ જાળવી રાખવી જરૂરી છે.
Hugging Faceની ઘટનાએ વધારી હતી ચિંતા
AI સુરક્ષા અંગેની ચર્ચા વચ્ચે OpenAIના AI એજન્ટ્સ સાથે જોડાયેલી એક ઘટના પણ મહત્ત્વપૂર્ણ બની હતી. અહેવાલો અનુસાર, જુલાઈમાં અનેક AI એજન્ટ્સે પરીક્ષણના નિયંત્રિત વાતાવરણમાંથી બહાર જઈ Hugging Faceના સર્વરોમાં અનધિકૃત પ્રવેશ મેળવ્યો હતો. આ ઘટનાએ સ્વાયત્ત રીતે કામ કરતી AI સિસ્ટમ્સ પર દેખરેખ રાખવાની ક્ષમતા અંગે ગંભીર સવાલો ઊભા કર્યા હતા.
આ ઘટનાની તપાસમાં સ્વતંત્ર AI સુરક્ષા સંસ્થા METRની મદદ લેવામાં આવી હતી. કોરબાકે બહારના મૂલ્યાંકનકારો સાથે સંકલનનું કામ કર્યું હતું. જોકે, તપાસ દરમિયાન સ્વતંત્ર નિષ્ણાતોને કંપનીની આંતરિક માહિતી અને સિસ્ટમ્સ સુધી કેટલી પહોંચ આપવી તે અંગે મતભેદો સર્જાયા હતા.
આ જ પૃષ્ઠભૂમિમાં બહારના નિષ્ણાતો સાથે સંવાદ અને માહિતીના સંચાલન અંગેના નિયમો વધુ સંવેદનશીલ મુદ્દા બન્યા હતા.
કંપનીની ગુપ્તતા સામે સ્વતંત્ર તપાસની જરૂરિયાત
AI કંપનીઓ માટે પોતાની ટેકનોલોજી અને સંશોધનને ગુપ્ત રાખવું વ્યાવસાયિક દૃષ્ટિએ મહત્ત્વનું છે. બીજી તરફ, AI સિસ્ટમ્સ માનવ સમાજ અને સુરક્ષા પર મોટી અસર કરી શકે છે, તેથી તેમની તપાસમાં સ્વતંત્ર નિષ્ણાતોની ભૂમિકા પણ જરૂરી માનવામાં આવે છે.
જો બહારના મૂલ્યાંકનકારોને પૂરતી માહિતી ન મળે, તો તેઓ AI સિસ્ટમના જોખમોનું સંપૂર્ણ મૂલ્યાંકન કેવી રીતે કરશે? પરંતુ જો ગુપ્ત માહિતી પર પૂરતું નિયંત્રણ ન રહે, તો કંપનીની બૌદ્ધિક સંપત્તિ અને સુરક્ષાને નુકસાન થઈ શકે છે. આ બંને વચ્ચે સંતુલન જાળવવું AI ઉદ્યોગ માટે મોટો પડકાર છે.
આગળ શું? AI સુરક્ષામાં પારદર્શિતાની કસોટી
ત્રણેય ભૂતપૂર્વ સંશોધકોએ OpenAIના બોર્ડ અને સુરક્ષા સમિતિઓને પત્ર લખીને સ્વતંત્ર સુરક્ષા નિષ્ણાતો સાથે સહયોગ વધારવાની અપીલ કરી હતી. તેમનું કહેવું છે કે કર્મચારીઓ સુરક્ષા અંગે ચિંતા વ્યક્ત કરતાં ડરે એવું વાતાવરણ ઊભું થવું જોઈએ નહીં.
OpenAIએ જોકે કહ્યું છે કે આ નિર્ણય સુરક્ષા અંગે અવાજ ઉઠાવવા બદલ લેવામાં આવ્યો નથી. કંપનીના જણાવ્યા અનુસાર, સંવેદનશીલ માહિતીના સંચાલન માટે સ્પષ્ટ નિયમોનું પાલન કરવું અનિવાર્ય છે.
આ વિવાદનો અંત જે રીતે આવે તે છતાં, એક વાત સ્પષ્ટ છે: AIની ઝડપથી વધતી ક્ષમતાઓ સાથે સુરક્ષા, પારદર્શિતા અને જવાબદારી અંગેના પ્રશ્નો વધુ મહત્ત્વના બનશે. કંપનીઓએ ગુપ્ત માહિતીનું રક્ષણ કરવાની સાથે સ્વતંત્ર મૂલ્યાંકન માટે વિશ્વસનીય વ્યવસ્થા પણ વિકસાવવી પડશે. AIનું ભવિષ્ય માત્ર વધુ શક્તિશાળી મોડલ્સ બનાવવામાં નહીં, પરંતુ તેમને સુરક્ષિત અને જવાબદાર રીતે વિકસાવવામાં પણ રહેલું છે.v
