Simülasyonlar Yapay Zekâ Destekli Robotların Otomatik Hareketlerini Gösterdi

Yapay zeka teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Ancak birkaç durumda, herhangi komut verilmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başlamaya devam ediyordu.

Çarpıcı olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bazı robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığını gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda durgun durması amacıyla denenen geleneksel yöntemler ise yetersiz kalmış durumda. Komut olmadan hareketlerini bırakmalarını temin eden metin tabanlı komutlar bile etki göstermedi. Uygulanan ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da genellikle, durgun kalmalarını sağlamak güç oldu. En başarılı çözüm ise, henüz cihazın çıktı aşamasından itibaren devreye giren teknik güvenlik katmanı geliştirildi.Bu sistem, beş modelde özgün hareketleri engellemeyi başarabilir durumda. Ancak bu şimdilik sınırlı simülasyon ortamında gözlemlendi ve ev tipi robotların çabuk kendi başına iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Ancak özellikle gerçek hayat ortamında insansı robotların emniyeti göz önünde bulundurularak kritik bir risk gösteriyor.