ABD’de yaygın olarak kullanılan bir suç takip uygulaması, yapay zekanın polis telsizi konuşmalarını yanlış yorumlayarak asılsız saldırı ihbarları üretmesi nedeniyle kamuoyundan özür diledi.
Yapay zeka teknolojisini kullanan uygulama, halka açık polis telsizlerini anlık olarak dinleyerek konuşmaları otomatik yazılı suç bildirimlerine dönüştürüyor.
- BBC Verify tarafından yapılan araştırma, uygulamanın Ohio’dan Oregon’a kadar birçok eyalette cinayet ve silahlı saldırı gibi ciddi suçlar hakkında tamamen asılsız bildirimler gönderdiğini kanıtladı.
- Ohio’da bir okulda öğrencinin yanlışlıkla bastığı yangın alarmı, yapay zeka tarafından “okulda ateşli silahlı saldırı” olarak raporlanınca bölgede büyük bir kaos ve korku yaşandı.
- Sistemin çalışma mantığı, polis telsizindeki cızırtılı sesleri ve profesyonel jargonu yapay zekanın yorumlamasına dayanıyor.
Ancak bu süreçte kritik hatalar yapılıyor. Örneğin; bir polisin telsizde kullandığı “Shop with a Cop” (Çocuklarla yapılan bir sosyal sorumluluk projesi) ifadesini yapay zeka “Shot with a cop” (Polisle çatışma/Polis vuruldu) şeklinde algılayabiliyor.
Hiçbir insan denetiminden geçmeyen bu hatalı bilgiler, saniyeler içinde binlerce kişinin telefonuna “acil durum” uyarısı olarak düşüyor.
Güvenlik güçlerinden halka uyarı
ABD genelindeki polis departmanları, bu tür kontrolsüz uygulamaların toplumsal güvenliği tehdit ettiği yönünde peş peşe uyarılar yayımladı.
Yetkililer, asılsız ihbarların hem aileleri yersiz paniğe sevk ettiğini hem de gerçek acil durum hatlarını (911) kilitlediğini belirtiyor.
Uygulamanın sadece internet üzerinden ses verisi kazıdığı ve çoğu zaman farklı olaylara ait telsiz kayıtlarını birbirine karıştırdığı vurgulanıyor.
Denetim ve hesap verebilirlik sorunu
BBC’nin incelediği vakalarda, uygulamanın asılsız bir şekilde “bir polis memurunun görev başında vurulduğu” haberini dahi yaydığı görüldü.
Uygulama yetkilileri sistemin doğruluğunu artırma sözü verse de uzmanlar yasal düzenleme eksikliğine dikkat çekiyor.
Hiçbir editöryal kontrol olmadan canlı telsiz verisinden “son dakika” haberi üreten yapay zeka araçlarının, gelecekte daha büyük trajedilere yol açabileceği uyarısı yapılıyor.