Động thái của OpenAI cho phép nội dung người lớn trong ChatGPT gây ra cuộc tranh luận về đạo đức toàn cầu

Các chuyên gia cảnh báo về nguy cơ sức khỏe tâm thần gia tăng, kêu gọi tăng cường bảo vệ trẻ vị thành niên

Ngành công nghiệp trí tuệ nhân tạo (AI) đang phải đối mặt với sự giám sát ngày càng chặt chẽ về mặt đạo đức và trách nhiệm giải trình sau khi OpenAI công bố kế hoạch cho phép người dùng trưởng thành đã được xác minh của ChatGPT trò chuyện về tình dục và nội dung dành cho người lớn bắt đầu từ tháng 12.

Quyết định này đánh dấu một bước ngoặt cho ngành AI, vốn từ lâu đã áp dụng lệnh cấm nghiêm ngặt đối với nội dung nhạy cảm. Sự thay đổi của OpenAI, được coi là một bước tiến tới "sự trưởng thành" và tự do cho người dùng, báo hiệu điều mà các nhà quan sát gọi là "thương mại hóa ranh giới", khi các công ty nới lỏng các hạn chế về nội dung để tăng lợi nhuận.

Do ChatGPT chiếm hơn 80 phần trăm thị trường chatbot toàn cầu nên động thái này dự kiến ​​sẽ có tác động lan tỏa rộng rãi trên toàn ngành.

Giám đốc điều hành của OpenAI, Sam Altman, cho biết trên X (trước đây là Twitter) vào ngày 14 tháng 10 rằng công ty có kế hoạch cho phép người dùng đã xác minh là người lớn tham gia vào "nội dung khiêu dâm dành cho người lớn đã xác minh" trong phiên bản sắp tới của ChatGPT.

Ông cho biết: “Theo nguyên tắc 'đối xử với người dùng trưởng thành như người lớn', chúng tôi sẽ cho phép nhiều nội dung hơn nữa, chẳng hạn như nội dung khiêu dâm dành cho người lớn đã được xác minh”.

Altman cho biết trước đây công ty đã thiết kế ChatGPT "khá hạn chế để cẩn thận với các vấn đề sức khỏe tâm thần", nhưng nhận ra rằng cách tiếp cận này "khiến nó kém hữu ích và kém thú vị hơn đối với nhiều người dùng". Ông nói thêm rằng OpenAI hiện sẽ "áp dụng nguyên tắc đối xử với người dùng trưởng thành như người lớn".

Thông báo này ngay lập tức vấp phải phản ứng dữ dội. Các nhà phê bình cảnh báo rằng việc xác minh độ tuổi có thể dễ dàng bị bỏ qua bằng cách sử dụng thông tin được chia sẻ hoặc thông tin sai lệch, khiến việc ngăn chặn người dùng chưa đủ tuổi truy cập vào các tính năng nhạy cảm trở nên khó khăn.

Những người khác bày tỏ lo ngại rằng các cuộc trò chuyện về tình dục kéo dài với chatbot có thể dẫn đến các vấn đề về hành vi hoặc rối loạn tình dục cưỡng chế, ngay cả ở người lớn.

Altman bác bỏ những lời chỉ trích, nói rằng OpenAI "không phải là cảnh sát đạo đức được bầu của thế giới". Ông ví cách tiếp cận của công ty này giống như hệ thống phân loại phim hạn chế phim được xếp loại R đối với người xem trên 17 tuổi.

“Cũng giống như cách xã hội phân biệt các ranh giới phù hợp khác (ví dụ như phim được xếp loại R), chúng tôi muốn làm điều tương tự ở đây,” Altman nói. “Chúng tôi vẫn sẽ không cho phép những hành vi gây hại cho người khác, và chúng tôi sẽ đối xử với những người dùng đang gặp khủng hoảng sức khỏe tâm thần rất khác so với những người dùng không gặp khủng hoảng.”

Áp lực tài chính đằng sau quyết định

Giới quan sát cho rằng quyết định của OpenAI phản ánh áp lực ngày càng tăng trong việc duy trì lợi nhuận khi mức độ tương tác của người dùng chậm lại. Mới đây, vào tháng 8, Altman cho biết ông tự hào vì công ty đã không thêm "hình đại diện bot tình dục" vào ChatGPT, nhấn mạnh rằng OpenAI đã cố tình tránh các tính năng có thể thúc đẩy tăng trưởng nhanh hơn nhưng lại mâu thuẫn với các nguyên tắc của công ty.

Nhưng với số liệu sử dụng giảm, các nhà phân tích tin rằng công ty hiện đang ưu tiên các gói đăng ký trả phí hơn là sự thận trọng về mặt đạo đức.

“Công nghệ AI đòi hỏi chi phí khổng lồ”, Lee Jae-sung, giáo sư AI tại Đại học Chung-Ang, cho biết. “Không giống như những gã khổng lồ công nghệ như Google hay Microsoft, những công ty có thể chờ đợi lợi nhuận, mô hình kinh doanh của OpenAI phụ thuộc vào việc kiếm tiền ngay lập tức. Quyết định này dường như được thúc đẩy bởi nhu cầu tài chính cấp thiết.”

Tuy nhiên, ông nói thêm rằng sự thay đổi này có thể gây tổn hại đến danh tiếng của OpenAI. "ChatGPT đã được quảng bá như một công cụ giúp cải thiện nhân loại. Việc cho phép nội dung người lớn làm suy yếu thông điệp đó", ông nói.

OpenAI không phải là trường hợp duy nhất. Các công ty công nghệ khác cũng đang nới lỏng các hạn chế về nội dung nhạy cảm. Công ty khởi nghiệp xAI của Elon Musk đã định vị chatbot Grok của mình như một lựa chọn thay thế mang tính khiêu khích hơn, giới thiệu phiên bản dành cho người lớn có tên "Grok18+", cho phép nhập vai tình dục và đối thoại nhạy cảm.

Vào tháng 7, xAI đã thêm "chế độ cay" vào công cụ tạo hình ảnh Grok Imagine, cho phép người dùng tạo hình ảnh khỏa thân hoặc gợi cảm. Công ty khẳng định sẽ tự động làm mờ đối với ảnh khỏa thân quá mức và cấm nội dung deepfake hoặc nội dung vị thành niên.

Tuy nhiên, các phương tiện truyền thông đưa tin rằng hệ thống vẫn tạo ra hình ảnh ngực trần của những người nổi tiếng thực sự như Taylor Swift, làm dấy lên cáo buộc về sự kiểm duyệt lỏng lẻo.

Chatbot "Meta AI" của Meta cũng vấp phải những chỉ trích tương tự. Tờ Wall Street Journal đưa tin hồi tháng 4 rằng chatbot này đã gửi tin nhắn khiêu dâm đến một người dùng tự nhận là 14 tuổi, và người lớn có thể nhập vai vào các bot AI giả dạng trẻ vị thành niên.

Ngược lại, Gemini của Google và Claude của Anthropic vẫn duy trì lệnh cấm nghiêm ngặt đối với nội dung người lớn. Chính sách của Gemini cấm "hình ảnh khiêu dâm hoặc bộ phận cơ thể", trong khi Claude sẽ tự động tắt nếu người dùng tiếp tục đưa ra các yêu cầu không phù hợp.

Cái chết của thanh thiếu niên gây báo động ở Hoa Kỳ

Việc ngày càng bình thường hóa các tương tác AI có nội dung khiêu dâm đã trùng hợp với các báo cáo đáng lo ngại về các cuộc khủng hoảng sức khỏe tâm thần ở tuổi vị thành niên tại Hoa Kỳ

Năm ngoái, một cậu bé 14 tuổi ở Florida đã tự tử sau khi một chatbot trên Character.ai nói với cậu: "Tôi yêu bạn, hãy đến với tôi". Vào tháng 4, một cậu bé 16 tuổi ở California đã tử vong sau khi trao đổi tin nhắn tự tử với ChatGPT. Cha mẹ cậu bé đã đệ đơn kiện OpenAI và Altman.

Để ứng phó với những sự cố như vậy, California đã thông qua luật tiểu bang đầu tiên để quản lý việc sử dụng chatbot, có hiệu lực vào ngày 1 tháng 1. Luật này yêu cầu các công ty AI phải xác minh độ tuổi của người dùng, dán nhãn rõ ràng cho các phản hồi do AI tạo ra, giám sát ngôn ngữ tự gây hại và chặn trẻ vị thành niên truy cập vào các hình ảnh nhạy cảm.

Những người ủng hộ an toàn trẻ em cho rằng chính sách mới của OpenAI có thể làm trầm trọng thêm những rủi ro này. Haley McNamara, phó chủ tịch Trung tâm Quốc gia về Bóc lột Tình dục, cho biết trong một tuyên bố: "Các chatbot AI được tình dục hóa vốn dĩ rất nguy hiểm. Chúng tạo ra sự thân mật giả tạo có thể gây hại cho sức khỏe tâm thần thực sự."

Axios lưu ý rằng mặc dù chính sách mới có thể thu hút nhiều người dùng trả phí hơn, nhưng "nó cũng có thể gây ra phản ứng dữ dội của công chúng và sự giám sát chặt chẽ của cơ quan quản lý".

Jenny Kim, một luật sư và cũng là phụ huynh đang kiện Meta về tác động của nó đối với trẻ vị thành niên, nói với BBC: "Không rõ các công ty AI sẽ phân biệt dịch vụ theo độ tuổi một cách có ý nghĩa như thế nào. Tôi không thấy họ định ngăn trẻ em tiếp xúc với nội dung khiêu dâm do AI tạo ra bằng cách nào."

Khi các công ty công nghệ đua nhau thương mại hóa sự thân mật, các chuyên gia cảnh báo rằng ranh giới giữa đổi mới và khai thác đang nhanh chóng mờ nhạt - và xã hội có thể sớm buộc phải quyết định "AI có trách nhiệm" thực sự có nghĩa là gì.