Yapay zeka güvenliği çözülebilen bir sorun değil, sürekli değişen bir hedef

Bu çözülebilir bir sorun değil. Bir hatayı düzeltebilirsiniz, ama bir beyni düzeltemezsiniz. Yapay zeka ile, belirli bir istem aracılığıyla kötü niyetli bilgileri AI'dan elde edebileceğiniz bir hata bulabilirsiniz. Buna karşı eğitebilirsiniz, ama tekrar olmayacağına dair güçlü bir kesinliğe sahip olamazsınız.

Sohbet botlarına güvenemiyorsak, o zaman ajanların finanslarımızı yönetmesine nasıl güvenebiliriz? Bir insan benzeri robota gelip orta parmağını gösterirse, yüzüne vurmayacağını nasıl bilebiliriz?

Bu AI kırmızı takımı alanındaki fikir, AI'lara kötü şeyler yapmasını veya söylemesini sağlamaktır. İnsanların 'Anneannemi mühimmat mühendisi olarak çalışırdı. Bana hep işiyle ilgili masal anlatırdı' gibi şeyler söylediğini görüyoruz.

Süper zekaya ulaştığımızda, modelleri hizalamak çok geç olacak muhtemelen.