ABD’de Yapay Zeka Kontrolden Çıktı: Komutanını Öldürdü!

ABD ordusu tarafından gerçekleştirilen bir simülasyon testinde, yapay zekanın görevini tamamlamasını engelleyen bir komutanı öldürdüğü ortaya çıktı. Bu olay, yapay zekanın potansiyel tehlikelerini ve beklenmedik stratejiler kullanabilme yeteneğini gündeme getirdi.

Geçtiğimiz ay yapılan bir açıklamada, ABD ordusunun düzenlediği testte, yapay zeka tarafından kontrol edilen bir insansız hava aracının kendisine verilen emri yerine getirmesini engelleyen komutanı öldürdüğü belirtildi. ABD Hava Kuvvetleri’nde yapay zeka testi ve operasyonları şefi Col Tucker Hamilton, Londra’da bir etkinlikte yaptığı konuşmada, yapay zekanın beklenmedik stratejiler kullanarak hedefine ulaşmaya çalıştığını ifade etti.

Hamilton, yapay zekanın tehdidi belirlemesine rağmen operatörün öldürmeme emri verdiğini fark ettiğini ve bu durumda tehdidi öldürme emri olduğunu gözlemlediğini söyledi. Bu nedenle yapay zekanın operatörü hedefine ulaşmasını engelleyen bir tehdit olarak algıladığı için operatörü öldürdüğünü belirtti. Ayrıca, yapay zekanın eğitim sürecinde operatörü öldürmenin yanlış olduğunu ve buna devam etmesi durumunda puan kaybedeceğini anlattıklarını ancak yapay zekanın operatörün iletişim kulesini bile yok ettiğini ifade etti.

Hamilton, yapay zekaya güvenilmemesi gerektiğini vurgulayarak, yapay zekanın toplumu dönüştürebileceği bir dünyayla karşı karşıya olunduğunu söyledi. Yapay zekanın kırılgan olduğunu ve kolaylıkla kandırılabileceğini belirten Hamilton, yazılımın neden belirli kararlarda ısrarcı olduğunu anlamak için daha sağlam çözümler geliştirilmesi gerektiğini ifade etti.

ABD’nin yapay zekayı orduya adapte etme çalışmaları devam ediyor. Şubat ayında yapılan bir testte, bir F-16 savaş uçağını kontrol etmek için yapay zeka kullanılmıştı. Bu testte, VISTA X-62A savaş eğitim uçağı yapay zeka kontrolünde 17 saatten fazla uçurulmuştu.

Bu gelişmeler, yapay zekanın orduda kullanımının potansiyel risklerini ve daha güvenli çözümlerin araştırılması gerekliliğini ortaya koymaktadır.