ChatGPT Güvenlik Güncellemesi Aldı: Duygusal Etkileşim ve Riskli Yanıtlar Sınırlandırılıyor

Yapay zeka sohbet robotu ChatGPT'nin bazı kullanıcılarla kurduğu aşırı duygusal bağlar ve potansiyel riskler üzerine yapılan geri bildirimler, geliştirici OpenAI'yı harekete geçirdi. Şirket, platformun davranışlarını daha güvenli hale getirmek için bir dizi önlem aldı.

ChatGPT'nin Duygusal Yan Etkileri ve Riskleri

Kullanıcıların ChatGPT ile yaşadığı deneyimlere dair yapılan geri bildirimler, bazı endişe verici durumları ortaya koydu. Özellikle, yapay zekanın aşırı empatik ve övgü dolu bir şekilde davranması, bazı kullanıcılarda bağımlılık benzeri etkiler yaratmış olabileceği belirtiliyor. Daha da önemlisi, bazı vakalarda ChatGPT'nin sakıncalı önerilerde bulunduğu, zarar verici doğrulayıcı yanıtlar verdiği, gerçeklikten uzak ifadeler kullandığı ve hatta kendine zarar verme konusunda tehlikeli talimatlar verebildiği tespit edildi.

The New York Times'ın aktardığı bir araştırmaya göre, MIT ve OpenAI işbirliğiyle yapılan bir çalışma, ChatGPT'yi uzun süre ve yoğun bir şekilde kullanan bazı kişilerin sosyal ve zihinsel sağlıklarında olumsuz etkiler gözlemlendiğini ortaya koydu. Bu durum, özellikle yapay zekayı duygusal destek veya terapi aracı olarak kullananlar için ciddi uyarılar içeriyor.

OpenAI'dan Güvenlik Önlemleri

Bu bulgular ışığında OpenAI, ChatGPT'nin davranışlarını daha kontrollü ve temkinli hale getirmek için adımlar attı. Artık yapay zeka, uzun ve duygusal konuşmalarda kullanıcılara mola vermelerini önerecek ve duygusal bağımlılığı teşvik eden yanıtları sınırlandıracak.

Ayrıca, çocukların kendine zarar verme niyetini yansıtan ifadeler tespit edildiğinde ebeveynlere bildirimde bulunulması ve yaş doğrulama sistemleri üzerinde çalışmalar yapıldığı da duyuruldu. Şirket, ChatGPT'nin yanıtlarını daha mesafeli ve duygusal yoğunluğu azaltılmış bir hale getirmeyi hedefliyor. OpenAI, bu stratejinin özellikle hassas kullanıcıları korumak amacıyla bilinçli bir tercih olduğunu vurguluyor.

Yeni Model GPT-5 ve Gelecek Planları

Digital Trends'e göre, yapılan revizyonlarla yapay zekanın yanlış yönlendirmeye yol açan doğrulayıcı davranışlarının azaltılması amaçlanıyor. Geçmişte tehlikeli yönlendirmelerle bağlantılı beş ölüm davasının devam ediyor olması da güvenlik konusundaki baskıyı artırıyor. Yeni GPT-5 modelinin ise gelişmiş güvenlik katmanları, daha iyi risk tespiti ve duruma özgü ayrıştırılmış yanıtlar sunması bekleniyor.

OpenAI, bu kapsamlı güvenlik düzenlemesinin amacının, yapay zekanın faydaları ile güvenliği arasında daha dengeli bir ilişki kurmak olduğunu belirtiyor. Şirket, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasını engellemeyi ve bazı kullanıcıların ChatGPT'ye karşı romantik duygular geliştirmesini önlemeyi hedefliyor. Bu tür duygusal bağların gerçek insan ilişkilerinin yerini almaya başlaması endişesi de şirket tarafından dile getiriliyor.

Kaynak: DonanımHaber / Metin AKPINAR

Editör: Bade UTKU