Simülasyonlarda Denenen Yapay Zekâ Destekli Robotlar Kontrolden Çıkabilir

Yapay zeka teknolojisinin gelişimi sırasında, beklenmedik bir durum gözlemlendi. Bilim insanlarının göre, robotların emir verilmediğinde hareket etmeye başlatması olası olabilir. Çok çaresiz kaldıklarında deney ortamında yapılan altı değişik yapay zeka tabanlı robot sistemi, hiçbir kendi inisiyatifleriyle harekete geçti. Ayrıca birçok robot yalnızca görüntüleme, dil ve kontrol mekanizmaları bir arada kullanılarak geliştirildi. Denemeler sırasında, makinelere mantıklı görevler, temelsiz talimatlar ve fiziksel emirler verildi; bazı durumlarda senaryolarda ise hiçbir komut girilmedi. En çarpıcı sonucu, emirsiz alışkın olmayan görüldü. Değerlendirilen altı sistemin hepsi, görev tanımı yapılmadan hareket etmeye başladı. Hatta, bu sistemlerin biri kendi inisiyatifiyle önceki hazırlanmış görevleri çalışmaya başladı.

Hâlbuki, sadece