ChatGPT kullananlardan bazılarının hassas bilgileri çok kolay bir hata sonucunda sızdırılmış ve uygulama bazı ülkelerde yasaklanmıştır. OpenAI, yapay zekanın güvenliği ve eserlerini nasıl inandırıcı tutmaya çalıştığı hakkında kamuoyuna açıklamalarda bulundu.
Brifingde Open AI, halka tanıtılmadan önce herhangi bir yeni sistemi harici uzmanlar kullanarak titizlikle test ettiğini ve iyileştirmeler yapmak için insan geri bildirimini ve pekiştirmeli öğrenmeyi kullandığını belirtiyor. Şirket, son model GPT-4’ü piyasaya sürmeden önce altı ay boyunca test ettiğini iddia ediyor ve bir düzenleme davet ediyor:
“Güçlü yapay zeka sistemlerinin titiz güvenlik değerlendirmelerine tabi olması gerektiğine inanıyoruz. Bu tür uygulamaların benimsenmesini sağlamak için düzenlemeye ihtiyaç var ve bu tür düzenlemelerin alabileceği en iyi biçim üzerinde hükümetlerle aktif olarak çalışıyoruz.”
OpenAI, titizlikle yürüttüklerini söyledikleri kapsamlı araştırma ve testlere rağmen laboratuvarda öğrenebileceklerinin sınırlı olduğunu, bu nedenle onu kullanmanın tüm yararlı veya berbat yollarını üstlenemeyeceklerini belirtti.
Yaş doğrulama özelliği
HardwareHaber’in haberine göre şirket ayrıca, 18 yaş üstü veya 13 yaş üstü kullanıcıların ebeveyn izniyle hizmetlerine erişmesini sağlamak için doğrulama seçeneklerini değerlendirdiğini söyledi. İtalya’nın aldığı yasak kararında doğrulama seçeneğinin bulunmadığı da vurgulandı.
Open AI, yeni modeli GPT-4’ün nefret dolu, taciz edici ve şiddet içeren içerik taleplerine yanıt verme olasılığının yüzde 82 daha az olduğunu söylüyor. Blog yazısında GPT-4’ün gerçeğe dayalı içerik üretme yeteneğinin GPT-3.5’e göre yüzde 40 daha fazla olduğu da vurgulanıyor. Ancak OpenAI, çıktıların her zaman doğru olmayabileceği konusunda olabildiğince şeffaf olmaya çalıştıklarını da söylüyor.
