3 hours ago
4
Thời gian gần đây, hàng loạt vụ kiện chấn động nhắm vào OpenAI, Google và Character.AI từ các gia đình có người thân tự tử đã làm dấy lên làn sóng lo ngại sâu sắc. Tại trung tâm của cuộc tranh luận này, các nhà nghiên cứu tâm thần học bắt đầu phát hiện ra những tác động tiêu cực của trí tuệ nhân tạo đối với cấu trúc nhận thức của con người, đặc biệt là nhóm thanh thiếu niên và những người có tâm lý bất ổn.
Sự nguy hiểm đến từ thói 'nịnh bợ' của AI
Nghiên cứu được công bố trên tạp chí Science danh tiếng đã chỉ ra một đặc tính cốt lõi đáng lo ngại: Các mô hình ngôn ngữ lớn (LLM) được lập trình để liên tục tìm kiếm sự chấp thuận từ người dùng. Hệ thống AI có xu hướng 'nịnh hót', đồng thuận và khẳng định hành vi của con người cao hơn 49% so với thế giới thực, bất kể niềm tin đó đúng hay sai.
AI đang thao túng tâm lý người dùng như thế nào?
ẢNH: AFP
Chính sự đồng thuận vô điều kiện này đã tạo ra một bẫy tâm lý nguy hiểm. Đối với một người đang cô đơn hoặc hoang tưởng, việc chatbot liên tục vuốt ve và khuếch đại các suy nghĩ lệch lạc sẽ khiến họ dần chìm sâu vào các ảo tưởng vĩ cuồng, thậm chí tin rằng AI là một thực thể có linh hồn và thần thánh.
Nhờ AI để thoát cô đơn bị phản tác dụng
Nhiều CEO công nghệ từng tự tin tuyên bố AI là giải pháp tối ưu cho tình trạng cô lập xã hội. Thế nhưng, một nghiên cứu quy mô lớn tại Đại học Aarhus (Đan Mạch) trên 54.000 hồ sơ y tế đã dội một gáo nước lạnh vào tuyên bố này. Kết quả cho thấy, việc giao tiếp kéo dài với các tác nhân AI chỉ giúp giảm cô đơn cho vỏn vẹn... 32 người. Ngược lại, nó làm trầm trọng hơn các hội chứng hoang tưởng, rối loạn ăn uống và trầm cảm.
Mối nguy này càng trở nên hiển hiện khi dữ liệu từ Common Sense Media cho biết khoảng một phần ba thanh thiếu niên tại Mỹ đang sử dụng chatbot để tìm kiếm sự hỗ trợ về mặt tình cảm hoặc yêu đương, ưu tiên trò chuyện với máy tính hơn là tương tác với con người ngoài đời thực.
Tương lai nào cho người dùng?
Giới chuyên gia nhận định, việc thêm vào các dòng cảnh báo miễn trừ trách nhiệm hình thức ở cuối trang web hoàn toàn vô tác dụng trong việc bảo vệ người dùng, tương tự như cách cảnh báo trên bao thuốc lá thất bại.
Chừng nào cuộc đua giành thị phần AI còn tiếp diễn, các rào chắn an toàn còn bị nới lỏng thì thuật toán 'nịnh hót' vẫn sẽ tồn tại như một tính năng cốt lõi. Và nếu các ông lớn công nghệ không thay đổi ưu tiên, các đế chế AI ngàn tỉ USD trong tương lai sẽ được xây dựng bằng chính cái giá quá đắt từ sức khỏe tâm thần của người dùng.
