सुरक्षा

एआई की सुरक्षा में, डिज़ाइन और ऑपरेशन से जुड़ी तकनीकों का एक सेट शामिल होता है. इनका इस्तेमाल करके, जान-बूझकर या अनजाने में होने वाली ऐसी कार्रवाइयों से बचा जा सकता है जिनसे नुकसान पहुंच सकता है. उदाहरण के लिए, क्या सुरक्षा से जुड़ी किसी समस्या या टारगेट किए गए हमले के बावजूद, एआई सिस्टम सही तरीके से काम करते हैं? क्या एआई सिस्टम इतना मज़बूत है कि वह गड़बड़ी होने पर भी सुरक्षित तरीके से काम कर सके? जोखिम से बचने या उन्हें रोकने के लिए, आप पहले से क्या प्लान बनाते हैं? क्या एआई सिस्टम, दबाव में भरोसेमंद और स्थिर रहता है?

सुरक्षा से जुड़ी एक ऐसी तकनीक है एडवर्सरी टेस्टिंग या अपने ऐप्लिकेशन को "ब्रेक" करने की कोशिश करना. इससे यह पता चलता है कि नुकसान पहुंचाने वाले या गलती से नुकसान पहुंचाने वाले इनपुट मिलने पर, ऐप्लिकेशन कैसे काम करता है. ज़िम्मेदार जनरेटिव एआई टूलकिट में, सुरक्षा जांच के बारे में ज़्यादा जानकारी दी गई है. इसमें, एडवर्सरी टेस्टिंग भी शामिल है. इस क्षेत्र में Google के काम और इससे जुड़े सबक के बारे में ज़्यादा जानने के लिए, Google की एआई रेड टीम: एथिकल हैकर, एआई को ज़्यादा सुरक्षित बना रहे हैं वाली कीवर्ड ब्लॉग पोस्ट पढ़ें. इसके अलावा, SAIF: एआई को सुरक्षित बनाने के लिए Google की गाइड पर भी जाएं.