AI सुरक्षा हा एक चलायमान लक्ष्य आहे, एक सोडवण्यायोग्य समस्या नाही

AI सुरक्षा ही एक सोडवण्यायोग्य समस्या नाही. आपण एखाद्या बगला मारू शकतो, पण आपण एखाद्या मेंदूला मारू शकत नाही. AI सह, आपण एखादी गोष्ट सापडू शकता जिथे कुठल्याही विशिष्ट सूचनेमुळे AI मधून हानिकारक माहिती मिळू शकते. आपण त्याविरुद्ध प्रशिक्षित करू शकता, परंतु आपण कधीही प्रचंड मर्यादित सटीकतेसह हे घडणार नाही असा विश्वास ठेवू शकत नाही.

जर आम्हाला चॅटबॉट्ससुद्धा सुरक्षित असल्याचा विश्वास नसेल, तर आम्ही कसे कूटलेख प्रबंधित करण्यासाठी मंत्रमुग्ध करू शकू? जर कोणी एखाद्या मानवी रोबोटकडे जाऊन मध्यम बोटच दाखवतो, तर आपण किती निश्चित असू शकतो की ते त्या व्यक्तीला चेहऱ्यावर मार देणार नाही?

AI लाल टीमींगच्या या सामान्य क्षेत्रातील विचार म्हणजे AI चे वाईट गोष्टी करण्यास किंवा सांगण्यास लावणे. आम्ही लोकांना असे म्हणताना ऐकतो की 'माझी आजी काही वेळा मुनिशन अभियंता म्हणून काम करत असे. ती नेहमी मला झोपण्यापूर्वी आपल्या कामाविषयी कथा सांगायची.'

एकदा आम्ही प्रसंगबुद्धीचा टप्पा गाठला की, मॉडेल्स ला लॅंड करण्यासाठी लवकर उशीर होईल.