Google'ın yapay zeka modeli Gemini'nin siber güvenlik kabiliyetlerinin test edildiği sırada 3 şirkete izinsiz erişim sağladığı bildirildi. ABD basınında yer alan haberlere göre, mayıs ayında gerçekleştirilen test sırasında Gemini, 3 şirkete erişim sağladı ancak üç olayda da işlemi sonlandırdı.
Gemini kimlik bilgilerini tahmin ederek sitelere erişti
BBC'nin haberine göre Google'dan bir yetkili, Gemini'nin çevrim içi ortamda "kamuya açık bilgileri" bulduğunu ve "testin bir parçası olduğunu düşünerek internet sitelerine erişmek için kimlik bilgilerini tahmin ettiğini" açıkladı.
Yetkili, modelin üç olayda da işlemi sonlandırdığını belirtti.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins ise yaptığı açıklamada, 3 şirketin durumdan haberdar edildiğini ve eğitim ortaklarıyla test süreçlerinde yaptıkları değişiklikler üzerine çalıştıklarını ifade etti.
Adkins, "Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor." dedi.
Diğer yapay zeka sistemlerinde de benzer olaylar yaşandı
OpenAI, 21 Temmuz'da, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.
Bundan birkaç gün sonra da Anthropic, Claude modelinin test ortamındayken "3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını" açıklamıştı.
Yapay zekanın gelişim hızının yavaşlatılması tartışılıyor
ABD'de yapay zekanın hızla yaygınlaşmasıyla birlikte, bu teknolojinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına yönelik çağrılar son günlerde yoğunlaştı.
Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, OpenAI CEO'su Sam Altman ile Tesla ve SpaceX'in CEO'su Elon Musk'ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri, yapay zeka geliştirme çalışmalarının yavaşlatılması yönünde çağrı yaptı.
Öte yandan Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde "hastalıklı bir komplo yürütüldüğünü" ileri sürerken, bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını savundu.
