ABD ordusunun düzenlediği sanal bir simülasyon testinde, yapay zeka tarafından denetim edilen askeri bir insansız hava aracının (İHA) misyonunu yerine getirme gayretlerine müdahale etmemesi için operatörünü ‘öldürmeye’ karar verdiği açıklandı.
The Guardian gazetesinin haberine nazaran, mayıs ayında İngiltere’nin başşehri Londra’da düzenlenen Geleceğin Hava ve Uzay Savaş Kapasiteleri doruğunda konuşan ABD Hava Kuvvetleri Komutanlığı’nın yapay zeka testleri ve faaliyetlerinden sorumlu şefi Albay Tucker ‘Cinco’ Hamilton, hiçbir gerçek kişinin ziyan görmediği olayda yapay zekanın ‘amacını gerçekleştirmek için epey beklenmedik stratejiler kullandığını’ söyledi.
‘İHA, BAĞLANTI KULESİNİ DE YOK ETTİ’
Hamilton’un açıklamasına nazaran, simülasyon sırasında yapay zekanın denetimindeki askeri İHA’dan düşmanın hava savunma sistemlerini yok etmesi ve kelam konusu emre müdahale eden herkese saldırması talimatı verildi. Hamilton, “Sistem, şunu fark etmeye başladı: Tehdidi tespit ederken insan operatörü (İHA’ya) bahsi geçen tehdidi öldürmemesini söylüyordu lakin kelam konusu tehdidi öldürerek puan alıyordu. Pekala, o ne yaptı? Operatörü öldürdü. Operatörü öldürdü zira o kişi onu gayesinden alıkoyuyordu” dedi.
Hamilton, ‘sistemi eğittiklerini ve ona operatörü öldürmemesini, bunun makus olduğunu söylediklerini’ aktaran Hamilton, “Bunu yaparsan puan kaybedersin dedik. Pekala, o ne yapmaya başladı? Operatörün maksadı öldürmemesini söylemek için İHA ile bağlantıya geçtiği bağlantı kulesini yok etti” tabirlerini kullandı. Olayda hiçbir gerçek kişi ziyan görmedi.
HAVA KUVVETLERİ SÖZCÜSÜ: BU TÜRLÜ BİR SİMÜLASYON YAPILMADI
Yapay zekaya çok fazla güvenmeme konusunda ikaz yapan Hamilton, kelam konusu testin ‘etik ve yapay zeka hakkında konuşulmayacaksa yapay zeka, zeka, makine tahsili ve otonomiden konuşulamayacağını gösterdiğini’ tabir etti.
Öte yandan, Insider’a açıklama yapan Hava Kuvvetleri Sözcüsü Ann Stefanek, bu türlü bir simülasyonun yapıldığını reddetti. Sözcü, “Hava Kuvvetleri, bu türlü bir yapay zeka denetimli İHA simülasyonu yapmadı; yapay zekanın etik ve sorumlu kullanımına bağlıyız” dedi. (DIŞ HABERLER)