Suni Zekânın Yanlış Kodları, Google Arama’da Gösterilmeye Başlandı
Google, bir suni zekânın verilen komutlarla gore yazdığı ve sadece pek de doğru olmayan kodları arama sonuçlarında indekslemeye başladı. Netice, geliştiriciler için iç karartıcı oldu.
Üretken suni zekâların pek fazlaca alanda kullanıldığını biliyoruz. Bu suni zekâlardan biri de Pulumi AI. Pulumi’nin amacı ise kod altyapısı oluşturmayı sağlamak. AWS şeklinde servis sağlayıcıları üstünden Pulumi AI’den destek alabilmenizi hedefleyen Pulumi, geçtiğimiz günlerde bazı kullanıcı istemlerini ve bu istemlere cevaben üretilen kodları paylaştı.
Aslına bakarsak Pulumi’nin kodları paylaşmasından yana bir problem yok, esasen şirket da kodların suni zekâ ile oluşturulduğunu ve hatalı olabileceğini belirtiyor. Bu probleminin sebebi ise Google’ın hatalı kodları endekslemesi ve hatta bu kodların en üst sırada çıkması.
Geliştiriciler, suni zekânın uydurmuş olduğu kodlardan muzdarip
Bir geliştirici, toplumsal medya hesabından yapmış olduğu paylaşımda “Sonunda oldu. Bir numaralı Google arama sonucu, bir LLM tarafınca yazıldığı belli olan (uyarı vardı) ve olmayan bir AWD hususi durumunu halüsine etmiş resmî bir Pulumu döküman sayfası oldu. Sonun başlangıcı.” ifadelerini kullandı.
Düzgüsel şartlar altında da altyapı kodlarını bulmanın oldukça zor bulunduğunu, bulunan kodların da eski, tamamlanmamış, hatalı ya da bozuk bulunduğunu belirten geliştiriciler, suni zekânın da bu durumu daha fena hâle getirdiğini açıkladı. Öte taraftan bu durum yalnız onları etkileyen bir sorunmuş şeklinde gözükmüyor.
Genel olarak suni zekâ ile üretilmiş sadece doğruluğu denetim edilmemiş bilgiler internete yayılıyor ve gerçek bilgiyi de hızlıca ekarte ediyor. Daha sonraki iterasyonlar da bu detayları doğruymuş şeklinde kullanıyor.
Pulumi’nin bugüne dek 100 binden fazla suni zekâ yanıtını sistemden kaldırdığı ve temizlik hayata geçirmeye devam edeceği de belirtiliyor.
