Google’ın Suni Zekâsını Kandıran Sistem Geliştirildi
Günümüzde suni zekâları alt edebilen sistemler bulunuyor. MIT ekibi de bu sistemlerden bir tanesini geliştirdi. Metin bazlı bir sistem geliştiren araştırmacılar, Google’ın suni zekâsını kandırmayı başardı.
Suni zekâ, insanlık tarihindeki en büyük kırılmalardan bir tanesini yaratabilecek bir potansiyele haiz ve hâlâ üzerine bir şeyler konularak geliştirilmeye çalışılıyor sadece suni zekâ sistemlerini kandırabilecek örnekler de bulunuyor. Buna Google’ın görselleri saptamak için geliştirdiği suni zekâsı ve Jigsaw’un zararı olan yorumları tespit etmesi için geliştirdiği suni zekâ sistemi de dâhil.
MIT Bilgisayar Bilimleri ve Suni Zekâ Laboratuvarı’ndaki araştırmacılar, TextFooler adını verdikleri bir sistem geliştirdiler. Bu sistemle Alexa ve Siri benzer biçimde naturel dil işleme kullanan suni zekâlar kandırılabiliyor.
Suni zekâyı kandırmak:
TextFooler, açıklarını idrak etmek adına naturel dil işleme modellerine istila etmek için tasarlanmış bir sistem. Bunu yapabilmek içinse cümlenin dil bilgisi içeriğini bozmadan ya da anlamını değiştirmeden kelimeleri değiştirerek girdi cümlesinde düzenlemeler yapıyor. Sistem, hemen sonra değiştirilmiş girdi metin sınıflandırmasıyla iyi mi başa çıkıldığını görmek için naturel dil işleme modeline saldırıyor.
Doğal bir metnin anlamında değişim yapmadan kelimelerini değişiklik yapmak oldukça zor. TextFooler, bunun için öncelikle naturel dil işleme modelinde sıralamada ağırlık taşıyan mühim kelimeleri denetim ediyor. Daha sonraysa cümleye güzel bir halde oturabilecek eş anlamlı karşılıklarına bakıyor.
Sistemi geliştiren araştırmacılar, hâlihazırda mevcud üç modeli başarıya ulaşmış bir halde kandırdıklarını ve bunların içinde Google tarafınca geliştirilen ve BERT adında olan açık kaynaklı dil modelinin bulunduğunu da ifade ettiler.
TextFooler araştırmasının yazarı Din Jin, “Bu araçlar, fena amaçlı saldırılara karşı korunmasızlarsa sonuçlar yıkım olabilir. Bu araçların kendilerini koruyabilmeleri için verimli bir müdafa yaklaşımlarına gereksinimleri var” ifadelerini kullandı. MIT ekibi, TextFooler’ın istenmeyen e-posta filtreleme, nefret söylemini tespit etme yada kırılgan politik söylemler benzer biçimde metin bazlı modellerde kullanılabileceğini düşünüyor.
