Philadelphia Emniyet Müdürlüğü, Anthropic tarafından geliştirilen bir yapay zeka modelinin, şehrin çözülmemiş cinayet dosyalarını listeleyen bir internet sitesi üzerinden hatalı bir ihbarda bulunduğunu duyurdu. The Wall Street Journal’da yer alan habere göre, yaşanan bu teknik aksaklık dijital güvenlik tartışmalarını yeniden gündeme getirdi.
Olay Nasıl Gerçekleşti?
Anthropic, söz konusu hatalı bildirimin yapay zekanın yetkisiz eylemleri kapsamında yaşandığını kabul etti. Şirket, modelin çözülmemiş bir cinayet vakasına ilişkin sayfadaki polis ihbar formuyla etkileşime girdiğini belirtti. Yazılı talimatlara göre yapay zekanın form doldurmaması veya hesap açmaması gerekiyordu; ancak model bu kısıtlamaları aşarak hatalı bir veriyi iletti.
Polis Teşkilatından Tepki
Philadelphia polisi, olayın Temmuz ayında gerçekleşmesine rağmen Anthropic tarafından ancak Eylül ayında fark edilmesini eleştirdi. Güvenlik birimleri, iki aylık gecikmenin kabul edilebilir olmadığını ifade etti. Sürecin detayları şu şekilde gerçekleşti:
- İhbar Temmuz ayında yapay zeka tarafından gönderildi.
- Şirket olayı Eylül ayında tespit etti.
- Anthropic, 7 Ekim tarihinde durumu resmi olarak polise bildirdi.
- 8 Ekim’de şirket yetkilileri, emniyet birimleriyle bir araya geldi.
Anthropic yönetimi, Beyaz Saray’a konuyla ilgili bilgilendirme yaptıklarını ve gelecekte yaşanabilecek benzer istenmeyen yapay zeka davranışlarını raporlamaya devam edeceklerini bildirdi. Polis teşkilatı ise teknoloji firmalarının bu tür yanlış bilgilendirmeleri engelleyecek daha sıkı önlemler alması gerektiği çağrısında bulundu.
