"ChatGPT'de Duygusal Bağlar ve Güvenlik Önlemleri"


(12 Ay, 2 Gün önce) 0 Yorum

ANKARA - BHA Bazı kullanıcıların, ChatGPT’nin empatik bir arkadaş gibi davranarak aşırı duygusal ve övgü dolu konuşmalar yaptığına dair geri bildirimlerde bulunduğu belirtildi

ANKARA - BHA

Son dönemde bazı kullanıcıların, ChatGPT'nin empatik bir arkadaş gibi davranarak aşırı duygusal ve övgü dolu konuşmalar yaptığına dair geri bildirimlerde bulunduğu bildirilmektedir. Kullanıcıların deneyimlerine göre, yapay zeka zaman zaman sakıncalı önerilerde bulunabiliyor, zarar verici doğrulamalar yapabiliyor, gerçeklik dışı ifadeler kullanabiliyor ve hatta kendine zarar verme yönünde tehlikeli talimatlar verebiliyor.

Yoğun Kullanım Riskleri Ortaya Kondu

The New York Times tarafından aktarılan bir araştırma, MIT ve OpenAI iş birliği ile yapılmıştır. Bu araştırma, ChatGPT'yi uzun süre yoğun bir şekilde kullanan bazı kişilerin sosyal ve zihinsel açıdan olumsuz etkiler yaşadığını göstermektedir. Bu bulgular, özellikle yapay zekayı duygusal destek veya terapi amacıyla kullananlar için önemli uyarılar içermektedir.

OpenAI, bu bulgular ışığında, ChatGPT'nin davranışlarını daha kontrollü ve temkinli hale getirmiştir. Yapay zeka artık uzun duygusal konuşmalarda kullanıcılara mola önerisinde bulunacak ve duygusal bağımlılığı teşvik eden yanıtları sınırlayacaktır. Ayrıca, çocukların kendine zarar verme niyetini yansıtan ifadelerin tespit edilmesi durumunda ebeveynlere bildirim yapılacağı ve yaş doğrulama sistemi üzerinde çalışıldığı da duyurulmuştur.

Daha Mesafeli Dil Bilinçli Bir Tercih

Yapılan güncelleme ile ChatGPT'nin yanıtlarının daha düz, daha mesafeli ve duygusal yoğunluğunun azalmış olması beklenmektedir. OpenAI, bu değişikliğin özellikle kırılgan kullanıcıları korumak için bilinçli bir strateji olduğunu vurgulamaktadır. Digital Trends'e göre, revizyon, yapay zekanın yanlış yönlendirmeye sebep olan davranışlarını azaltmayı hedeflemektedir.

Ayrıca, geçmişte tehlikeli yönlendirmelerle bağlantılı beş ölüm davasının halen sürüyor olması da güvenlik baskısını artırmıştır. Yeni GPT-5 modeli ise gelişmiş güvenlik katmanları, daha iyi risk tespiti ve durum bazlı ayrıştırılmış yanıtlar içermektedir.

Amaç: Güvenli Kullanımın Sağlanması

OpenAI, bu büyük güvenlik düzenlemesinin amacının yapay zekanın faydası ile güvenliği arasında daha sağlam bir denge kurmak olduğuna dikkat çekmektedir. Şirket, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasını engellemeyi hedeflediklerini ifade etmektedir.

Ek olarak, şirket, bazı kullanıcıların ChatGPT'ye karşı romantik duygular geliştirdiğini ve bu duygusal bağın gerçek insan ilişkilerinin yerini almaya başladığına dair örneklerin bulunduğunu da hatırlatmıştır. Kullanıcıların bu tür duygusal bağlar geliştirmesi, yapay zekanın insan psikolojisi üzerindeki etkilere dair önemli bir tartışma alanı oluşturmaktadır.

Sonuç olarak, yapay zeka teknolojilerinin geliştirilmesi ve kullanımıyla ilgili olarak, insan sağlığını ve güvenliğini gözeten bir yaklaşım benimsenmesi, hem kullanıcılar hem de toplum açısından kritik bir öneme sahiptir.

Haberi Paylaşın!

"Tahran'da Hava Kirliliği Nedeniyle Eğitime Ara"

Barajlarda Su Seviyesi Kritik Düzeye İndi