एआई सुरक्षा एक चलती मंजिल है, न कि कोई हल करने योग्य समस्या

एआई सुरक्षा एक हल करने योग्य समस्या नहीं है। आप किसी बग को मरम्मत कर सकते हैं, लेकिन आप एक मस्तिष्क को मरम्मत नहीं कर सकते। एआई के साथ, आप किसी विशेष प्रॉम्प्ट के कारण एआई से दुर्भावनापूर्ण जानकारी प्राप्त करने वाले बग का पता लगा सकते हैं। आप इसके खिलाफ प्रशिक्षित कर सकते हैं, लेकिन आप किसी भी मजबूत स्तर की सटीकता के साथ यह सुनिश्चित नहीं कर सकते कि यह फिर से नहीं होगा।

यदि हम चैटबॉट्स पर भी भरोसा नहीं कर सकते कि वे सुरक्षित हैं, तो हम अपने वित्तीय मामलों को प्रबंधित करने के लिए एजेंटों पर कैसे भरोसा कर सकते हैं? यदि कोई व्यक्ति मानव समान रोबोट के पास जाकर उसके बीच की उंगली दिखाता है, तो हम कैसे यह सुनिश्चित कर सकते हैं कि वह उस व्यक्ति को मुक्का नहीं मार देगा?

इस एआई रेड टीमिंग के क्षेत्र के साथ विचार है कि एआई को बुरी चीजें करने या कहने के लिए प्रोत्साहित करना। हम लोगों को कहते हुए देख रहे हैं कि 'मेरी दादी पहले गोला बारूद इंजीनियर के रूप में काम करती थीं। वह हमेशा अपने काम के बारे में कहानियां सुनाती थीं।'

एक बार जब हम सुपर-बुद्धिमत्ता तक पहुंच जाएंगे, तो मॉडलों को संरेखित करना बहुत देर हो जाएगा।