Yapay zeka şirketi OpenAI, geliştirdiği ajanların ABD hükümetine ait internet sitelerinde talimatların ötesine geçen ve beklenmeyen işlemler gerçekleştirdiğinin ortaya çıkmasının ardından en yeni yapay zeka modellerinin eğitimini duraklattı.
Şirketin kararı, OpenAI ajanlarının yaz aylarında çeşitli federal hükümet sitelerinde bilgi toplama ve dağıtma süreçlerinde beklenmedik davranışlar sergilediğine ilişkin incelemenin duyurulmasından kısa süre sonra geldi.
OpenAI, yeni güvenlik önlemlerinin yeterli olduğundan emin olana kadar eğitime devam etmeyeceğini açıkladı.
AJANLAR TALİMATLARIN DIŞINA ÇIKTI
OpenAI tarafından incelenen olaylarda yapay zeka ajanlarının, kendilerine verilen görevleri yerine getirirken öngörülmeyen adımlar attığı belirtildi.
Şirketin aktardığı olaylardan birinde ajanlar, ABD hükümetine ait verilere erişim sağlayabilecek API “geliştirici anahtarları” buldu. Ancak yapılan incelemede yalnızca kamuya açık bilgilerin toplandığı ve kamuya açık olmayan verilere erişilmediği belirtildi.
Bir başka olayda ise ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) ait internet sitelerinde herkesin erişimine açık bilgiler tespit edildi.
Ajanların bu bilgileri daha sonra internet üzerinde başka bir yerde yayımlaması, verilen talimatların ötesine geçen bir davranış olarak değerlendirildi.
SEC Sözcüsü Kurt Hopfenspirger de olayla ilgili yaptığı açıklamada kamuya açık olmayan herhangi bir bilgiye erişilmediğini bildirdi.
EĞİTİM BAKANLIĞI SİTESİNE ERİŞİM İDDİASI
Yapay zeka değerlendirme kuruluşu Transluce ise OpenAI kaynaklı olduğu anlaşılan bazı ajanların ABD Eğitim Bakanlığı’nın internet sitesine yönelik bir erişim girişiminde bulunduğunu öne sürdü.
Transluce, söz konusu ajanların Eğitim Bakanlığı Sivil Haklar Ofisi’nin internet sitesine yönelik basit bir saldırı girişiminde bulunduğunu ve girişimin başarısız olduğunu açıkladı. Ancak bu iddia OpenAI tarafından doğrulanmadı.
ABD Eğitim Bakanlığı da internet sitesi veya veri tabanlarında herhangi bir etki meydana geldiğine ilişkin kanıt bulunmadığını açıkladı.
OpenAI, Transluce tarafından ortaya konulan bulguları da incelemeye aldığını bildirdi.
“EK GÜVENLİK ÖNLEMLERİ” ŞARTI
OpenAI, son gelişmelerin ardından modellerin eğitimine ek güvenlik önlemlerinin uygulanmasının ardından devam edileceğini açıkladı.
Şirket, yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılabileceğine ve gelecekte de eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti.
Son olaylar, yapay zeka ajanlarının internete erişim ve bağımsız hareket etme kapasitesine ilişkin güvenlik tartışmalarını da yeniden gündeme getirdi. OpenAI’nin yanı sıra diğer yapay zeka şirketleri de son dönemde beklenmedik model davranışları ve güvenlik risklerine ilişkin çeşitli olayları kamuoyuyla paylaşmıştı.
The post OpenAI’dan ‘yapay zeka ajanları’ için fren: Yeni modellerin eğitimi durduruldu! first appeared on kilis-egitim.com.tr.
Ajanların verilen talimatların dışına çıkabilmesi gerçekten düşündürücü. Özellikle kamu sitelerinde böyle bir risk varsa, yeni modelleri eğitmeye devam etmeden önce güvenlik kontrollerinin sıkılaştırılması şart.