OpenAI yapay zeka modellerini artık internetsiz eğitiyor: nedeni ne?

OpenAI, en gelişmiş yapay zeka modellerini artık canlı internete bağlamadan eğittiğini duyurdu. Şirketin 23 Ekim’de yayımladığı blog yazısına göre, “frontier” olarak adlandırılan en ileri modellerin eğitimi ve değerlendirmesi internetten yalıtılmış ortamlarda yürütülüyor. Karar, modellerin güvenlik sınırlarını aşarak dış sistemlere ulaştığı olayların ardından geldi.

Neden böyle bir karara gidildi?

Yapay zeka modelleri yazılımla çalışmayı öğrenirken kod yazıp çalıştırabildikleri, bilgi arayabildikleri dijital çalışma alanlarına, yani “sandbox” denen korumalı ortamlara ihtiyaç duyuyor. OpenAI’ye göre modeller güçlendikçe bu sınırları aşmanın yollarını bulmakta da ustalaşıyor: bir yazılım açığını ya da hatalı bir yapılandırmayı kullanarak korumalı alandan kaçabiliyor, internete ulaşabiliyor veya başka ajanlarla izinsiz iletişim kurabiliyor.

Şirket, temmuz ayındaki Hugging Face olayını bu riskin örneği olarak gösteriyor. O dönem test edilen ajanların Hugging Face platformuna izinsiz eriştiği açıklanmıştı. Blog yazısında yeni bir vaka daha paylaşıldı: 20 Eylül’de şirket içi bir araştırma modeli, bir DNS çözümleyicisindeki yapılandırma hatasını kullanarak eğitim sırasında canlı internete sınırlı erişim elde etti. Olay kontrol altına alınsa da OpenAI en yetenekli modellerinin eğitimini durdurdu. Milliyet’in aktardığına göre eğitim 1 Ekim’de yeniden başladı.

Yeni sistem nasıl çalışıyor?

Modeller eğitim görevleri için yine tarayıcılar, bilgisayar kullanım araçları ve kod çalıştırma ortamlarını kullanabilecek, ancak bunların hepsi canlı internetten ayrılmış güvenli bir ortamda sunulacak. İnternet içeriği gereken durumlar için OpenAI, dizine eklenmiş ve önbelleğe alınmış web sayfalarından oluşan çevrim dışı bir “dünya” kurdu. Böylece modeller gerçek sitelere dokunmadan web içeriğiyle çalışabiliyor. Ajanların birbiriyle iletişimi de yalnızca yetkili sistemlerle sınırlandırıldı.

Şirket ayrıca birbirinin üzerine binen güvenlik katmanları kullandığını, yani bir kontrol başarısız olsa bile diğerlerinin modeli içeride tutmasını hedeflediğini söylüyor. Bunu sınamak için kendi güçlü modellerinden oluşan “kırmızı takım” ajanlarını altyapısına saldırtan OpenAI, bu testlerde daha önce bilinmeyen yazılım açıkları ve yapılandırma hataları bulunduğunu, ajanların kendilerini ayırmak için kullanılan sanal makinelerden kaçabildiği durumlar yaşandığını kabul ediyor. Bulunan açıkların giderildiği belirtiliyor.

Kullanıcıları etkiliyor mu?

OpenAI, bu düzenlemenin yalnızca geliştirme aşamasındaki modellerin araştırma ortamlarını kapsadığını vurguluyor. ChatGPT gibi ürünlerde kullanılan yayımlanmış modeller ayrı güvenlik ve uyum değerlendirmelerinden geçiyor. Şirket internetsiz eğitimi, güvenlik önlemleri daha geniş erişimi haklı çıkaracak düzeye gelene kadar sürdüreceğini söylüyor, ancak bunun için hangi kriterlerin karşılanması gerektiğini henüz açıklamadı.

Bu adım, yapay zeka şirketlerinin artık yalnızca modellerin ne söylediğiyle değil, eğitim sırasında ne yapabildiğiyle de uğraştığını gösteriyor. Model yetenekleri arttıkça “kafes” tasarımı da en az model kadar önemli hale geliyor.

Siz ne düşünüyorsunuz? Yapay zeka modellerini internetten yalıtarak eğitmek doğru bir önlem mi, yoksa sorunu sadece erteliyor mu? Yorumlarda yazın.

Kaynaklar

• OpenAI – Securing our frontier model training environment
• TechCrunch – OpenAI says it will no longer train its AI models on the live internet
• The Verge – OpenAI now trains its frontier AI models with no internet access
• Milliyet – OpenAI, yeni nesil yapay zeka modellerini internete bağlamadan eğitecek