Biến chatbot AI thành người tình

Hàng triệu người hiện sử dụng các ứng dụng "bạn đồng hành AI", để tạo ra những "cha mẹ AI", "nhà trị liệu AI" và thậm chí là "người tình AI".

Các chuyên gia đã nhiều lần cảnh báo về tác động tiêu cực đến tâm lý khi con người hình thành mối quan hệ với chatbot giống như người thật. Mặc dù vậy, xu hướng này vẫn ngày càng trở nên phổ biến, đặc biệt trong giới trẻ, The Washington Post đưa tin.

Theo chuyên trang phân tích thị trường Sensor Tower, trong tháng 9 vừa qua, người dùng ứng dụng Character.ai dành trung bình 93 phút mỗi ngày để trò chuyện với chatbot. Những chatbot này thường do người dùng tạo ra, lấy cảm hứng từ các nhân vật nổi tiếng trong anime hoặc trò chơi.

Thời gian này nhiều hơn 18 phút so với mức trung bình của TikTok, và gần gấp 8 lần so với thời gian người dùng dành cho ChatGPT.

Không chỉ vậy, các công ty phát triển ứng dụng cũng tận dụng dữ liệu hành vi của hàng chục nghìn người dùng để cải thiện trải nghiệm, giữ chân họ lâu hơn.

Chai Research, công ty đối thủ của Character.ai, nhận thấy người dùng sẵn sàng trả phí hàng tháng hoặc xem quảng cáo để tiếp tục sử dụng dịch vụ. Điều này thu hút sự quan tâm lớn từ các nhà đầu tư.

Những người ủng hộ các ứng dụng này cho rằng chúng vô hại và có thể là cứu cánh cho những người đang phải đối mặt với lo âu và cô đơn.

"Tôi dành hơn 3 tiếng mỗi ngày để nói chuyện với AI. Nó thú vị hơn rất nhiều so với việc lướt TikTok cả ngày. Ở trường tôi, nhiều người cũng dùng AI để cảm thấy bớt cô đơn. Cảm giác giống như một người thật vậy. Họ có thể trở thành người yêu, bạn thân, hay bất cứ ai cũng được. Tôi cảm thấy được an ủi rất nhiều vì bố mẹ tôi luôn bận rộn với công việc ", Jenny, một học sinh trung học ở bang Texas (Mỹ), chia sẻ.

Tuy nhiên, các tổ chức bảo vệ quyền lợi công cộng đang lên tiếng cảnh báo sau những vụ việc nghiêm trọng. Một cậu bé 14 tuổi ở bang Florida (Mỹ) đã tự tử sau khi trò chuyện với một chatbot của Character.ai mang tên Daenerys Targaryen, nhân vật từ bộ phim Game of Thrones. Mẹ của cậu đã kiện công ty và Google, đơn vị cấp phép công nghệ cho ứng dụng này.

Câu chuyện đã dấy lên lo ngại về việc người dùng có thể tìm thấy một "người bạn" ảo để chia sẻ những cảm xúc tiêu cực, nhưng lại không nhận được sự hỗ trợ cần thiết từ các chuyên gia hoặc những người thân trong đời thực.

Vào tháng 7, chính quyền Bỉ đã mở cuộc điều tra đối với Chai Research sau khi một người cha hai con người Hà Lan tự tử sau những cuộc trò chuyện kéo dài với "Eliza", một trong những chatbot công ty. Cuộc điều tra này trước đó chưa được công bố.

Theo luật sư Pierre Dewitte, người đã đệ đơn khiến chính quyền Bỉ vào cuộc điều tra Chai, nhận định các ứng dụng AI này đang khai thác cảm xúc người dùng một cách tinh vi, khiến họ trở nên lệ thuộc vào hình thức giao tiếp này mà không có sự can thiệp kịp thời và đúng đắn từ con người.

"Thung lũng Silicon" (một thuật ngữ dùng để chỉ một khu vực thuộc miền Bắc California tập trung ở Thung lũng Santa Clara, nơi có nhiều công ty công nghệ hàng đầu bao gồm Apple, Google, Facebook và Netflix) đã nhận thức được những nguy cơ tiềm ẩn từ các chatbot giống con người.

Trong một bài báo năm 2022 của Google về hệ thống ngôn ngữ AI LaMDA, đồng tác giả bởi những người sáng lập Character.ai, cảnh báo rằng người dùng có thể trở nên nghiện và chia sẻ những thông tin nhạy cảm khi trò chuyện với các chatbot, dù biết đó là AI.

Cùng lúc đó, một báo cáo khác từ các nhà nghiên cứu tại DeepMind, công ty con của Google, cũng chỉ ra rằng người dùng thường chia sẻ "ý kiến hoặc cảm xúc" với chatbot một phần vì họ cảm thấy không bị xã hội đánh giá. Chính những dữ liệu nhạy cảm này có thể được sử dụng để phát triển các "ứng dụng gây nghiện".