ગૂગલે ‘કોડમેન્ડર’ એઆઈ ટૂલ લોન્ચ કર્યું જે 70 થી વધુ સુરક્ષા ભૂલોને આપમેળે ઠીક કરી શકે છે!
વૈશ્વિક ટેક જાયન્ટ ગૂગલે એક નવો AI વલ્નરબિલિટી રિવોર્ડ પ્રોગ્રામ (AI VRP) રજૂ કર્યો છે જે સંપૂર્ણપણે તેના આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ઉત્પાદનોની સુરક્ષાને મજબૂત બનાવવા માટે સમર્પિત છે. આ પ્રોગ્રામ વિશ્વભરના સુરક્ષા સંશોધકો અને નૈતિક હેકર્સને Google ની AI સિસ્ટમ્સમાં મહત્વપૂર્ણ નબળાઈઓ શોધવા અને તેની જાણ કરવા માટે પ્રોત્સાહિત કરે છે. કંપની એક જ ક્વોલિફાઇંગ રિપોર્ટ માટે $30,000 (લગભગ ₹26 લાખ અથવા ₹26.6 લાખ) સુધીના પુરસ્કારો ઓફર કરી રહી છે.
આ પહેલ ગૂગલના સ્થાપિત વલ્નરબિલિટી રિવોર્ડ પ્રોગ્રામ (VRP) નું વિસ્તરણ છે, પરંતુ AI સુરક્ષા પર ચોક્કસ ધ્યાન કેન્દ્રિત કરીને.
‘રોગ એક્શન્સ’ અને મુખ્ય ઉત્પાદનો પર ધ્યાન કેન્દ્રિત કરો
ગુગલ મુખ્યત્વે એવી નબળાઈઓ પર ધ્યાન કેન્દ્રિત કરે છે જે વપરાશકર્તાઓને “વાસ્તવિક નુકસાન” પહોંચાડી શકે છે, ખાસ કરીને જેને “રોગ એક્શન્સ” તરીકે વર્ગીકૃત કરવામાં આવે છે. આ એવા કિસ્સાઓ છે જ્યાં AI સિસ્ટમને આદેશો અથવા ક્રિયાઓ ચલાવવા માટે છેતરવામાં આવે છે જે તેણે ન કરવા જોઈએ, જે સુરક્ષા, ડેટા અથવા સલામતીને અસર કરે છે.
“ફ્લેગશિપ પ્રોડક્ટ્સ” તરીકે ઓળખાતા આ બગ બાઉન્ટી પ્રોગ્રામના અવકાશમાં સમાવિષ્ટ મુખ્ય ઉત્પાદનો છે:
- ગુગલ સર્ચ.
- જેમિની એપ્સ (વેબ, એન્ડ્રોઇડ અને iOS).
- ગૂગલ વર્કસ્પેસ કોર એપ્લિકેશન્સ (જીમેઇલ, ડ્રાઇવ, મીટ, કેલેન્ડર, ડોક્સ, શીટ્સ, સ્લાઇડ્સ અને ફોર્મ્સ સહિત).
સંશોધકો નાના ટૂલ્સ અને “માનક” ઉત્પાદનો, જેમ કે નોટબુકએલએમ, એઆઈ સ્ટુડિયો અને પ્રાયોગિક એઆઈ સહાયક જુલ્સમાં સમસ્યાઓ શોધવા માટે પણ પુરસ્કારો મેળવી શકે છે.
ઉચ્ચ-મૂલ્ય નબળાઈઓ
ચુકવણી માટે લાયક બનવા માટે, ખામીએ વાસ્તવિક-વિશ્વના ઉપયોગમાં સુરક્ષા અસર દર્શાવવી આવશ્યક છે. ઉચ્ચ-જોખમના ઉદાહરણોમાં શામેલ છે:
એક હેકર સ્માર્ટ દરવાજાને અનલૉક કરવા માટે ગૂગલ હોમને છેતરવાનો માર્ગ શોધે છે.
છુપાયેલા આદેશ (જેમ કે પરોક્ષ પ્રોમ્પ્ટ ઇન્જેક્શન) નો ઉપયોગ કરીને Gmail જેવી સેવાને કોઈના ઇમેઇલ સામગ્રીનો સારાંશ આપવા અને તેને તૃતીય-પક્ષ અથવા હુમલાખોર-નિયંત્રિત એકાઉન્ટમાં મોકલવા દબાણ કરે છે.
સંવેદનશીલ ડેટા એક્સફિલ્ટ્રેશન જે પીડિતની વ્યક્તિગત રીતે ઓળખી શકાય તેવી માહિતી (PII) અથવા મંજૂરી વિના અન્ય સંવેદનશીલ વિગતો લીક કરે છે.
ફ્લેગશિપ ઉત્પાદનોમાં ઉચ્ચ-જોખમવાળા બગ્સ માટે પુરસ્કારો $20,000 સુધી શરૂ થાય છે. જો કોઈ રિપોર્ટ ઉચ્ચ-ગુણવત્તાવાળી અથવા ખાસ કરીને નવીન માનવામાં આવે છે, તો વધારાના બોનસ લાગુ કરી શકાય છે, જે કુલ પુરસ્કારને મહત્તમ $30,000 સુધી પહોંચાડે છે.
શું ગણાતું નથી
Google એ પ્રોગ્રામ માટે સ્પષ્ટ રીતે બાકાત રાખ્યા છે. સરળ કાર્યાત્મક ભૂલો અથવા સામગ્રી-સંબંધિત સમસ્યાઓ બગ બક્ષિસ પુરસ્કાર માટે લાયક નથી. ખાસ કરીને, સુરક્ષા મેનેજરોએ જણાવ્યું હતું કે VRP સામગ્રી-સંબંધિત સમસ્યાઓને સંબોધવા માટે યોગ્ય ફોર્મેટ નથી. બાકાતમાં શામેલ છે:
- ખોટા જવાબો આપતું AI મોડેલ અથવા “ભ્રમ”.
- ડાયરેક્ટ પ્રોમ્પ્ટ ઇન્જેક્શન.
- જેલબ્રેક્સ.
- સંરેખણ સમસ્યાઓ.
આ સામગ્રી-સંબંધિત સમસ્યાઓ, જેમાં અસંખ્ય શક્ય ઘટાડાઓ હોઈ શકે છે, તેના બદલે ઉત્પાદનોમાં નિયમિત પ્રતિસાદ સાધનોનો ઉપયોગ કરીને જાણ કરવી જોઈએ, જે AI સુરક્ષા ટીમોને સમય જતાં વલણોનું વિશ્લેષણ કરવા અને મોડેલોને સુધારવાની મંજૂરી આપે છે.
AI AI ને મદદ કરે છે: કોડમેન્ડરનું લોન્ચ
AI VRP લોન્ચ સાથે સુસંગત, Google એ CodeMender પણ રજૂ કર્યું, જે સુરક્ષાને સક્રિય રીતે સુધારવા માટે રચાયેલ AI સાધન છે. આ એજન્ટ આપમેળે ઓપન-સોર્સ સોફ્ટવેરમાં હાલની સુરક્ષા ખામીઓને ઓળખે છે અને સુધારવામાં મદદ કરે છે. કોડમેન્ડરે 70 થી 72 થી વધુ ચકાસાયેલ નબળાઈઓને સફળતાપૂર્વક પેચ કરવામાં મદદ કરી છે, જે પછીથી માનવ નિષ્ણાતો દ્વારા ચકાસવામાં આવી હતી અને મંજૂર કરવામાં આવી હતી, જે ટેકનોલોજીના રક્ષણમાં AI ની સકારાત્મક ભૂમિકા દર્શાવે છે.
AI સલામતી પર Google નો ભાર આ ક્ષેત્રમાં તેના હાલના ઇતિહાસ દ્વારા વધુ મજબૂત બને છે; આ સત્તાવાર સમર્પિત કાર્યક્રમ પહેલાં, સંશોધકોએ છેલ્લા બે વર્ષમાં AI-સંબંધિત જોખમોને ઉજાગર કરવા બદલ $430,000 થી વધુ કમાણી કરી હતી.
