Tờ New York Times cho hay bộ phận phát triển trí tuệ nhân tạo tại Google đang nghiên cứu 21 AI khác nhau để hỗ trợ tư vấn tâm lý cho người dùng, từ hỗ trợ người dùng cách lên kế hoạch, chia sẻ bài học cuộc sống hay giúp người dùng giải tỏa căng thẳng.
Mục đích tới từ bản báo cáo trước đây của các nhóm nghiên cứu AI, họ cho rằng nghe tư vấn tâm lý từ những AI không có chuyên môn có thể ảnh hưởng tới sức khỏe tinh thần của người dùng. Giải pháp để giải quyết vấn đề này theo Google chính là một AI khác.
Nguồn tin cho hay Google đã hợp tác với Scale AI để thử nghiệm các trí tuệ nhân tạo mới. Hơn 100 tiến sĩ được giao trọng trách phát triển dự án này. Những thử nghiệm được triển khai để xác định liệu công cụ trực tuyến có hỗ trợ người dùng quyết định đúng đắn hơn trong các mối quan hệ hay giải đáp các thắc mắc thầm kín nhất.
Dù vậy, tờ New York Times cho rằng công cụ trên không được phát triển để thay thế hoàn toàn những bác sĩ hay nhà trị liệu tâm lý. Tới chính AI Bard, công cụ được Google triển khai đại chúng cũng từ chối trả lời các câu hỏi liên quan tới sức khỏe tinh thần, thay vào đó AI này chỉ đưa ra các đường dẫn để người dùng tự tìm kiếm.
Rất nhiều doanh nghiệp từng thử dùng AI để đưa ra các tư vấn sức khỏe tinh thần, tuy nhiên đều thất bại. Vào tháng 6, trí tuệ nhân tạo Tessa của tổ chức hỗ trợ chứng rối loạn ăn uống bị buộc dừng hoạt động sau khi chỉ dẫn người dùng các cách thức trị liệu tiêu cực, phản khoa học.
Giới chuyên gia y tế cùng các nhà lập pháp mâu thuẫn về quyết định có nên cấm AI tư vấn tâm lý hay không, việc AI đưa ra câu trả lời sai dẫn tới nhiều hậu quả nghiêm trọng không còn hiếm gặp.
Một đại diện của nhóm trí tuệ nhân tạo tại Google cho biết: "Chúng tôi đã phối hợp cùng các đối tác trong khoảng thời gian dài để phát triển các sản phẩm cho Google, đây là yêu cầu cần thiết để tạo ra các sản phẩm an toàn, có ích cho người sử dụng".
Đưa AI vào một lĩnh vực cần tính chính xác, sự chuyên nghiệp cao như tư vấn tâm lý là một bước đi đầy mạo hiểm của Google, tập đoàn có thể đối mặt với nhiều thách thức pháp lý cũng như cần điều chỉnh AI để không đưa ra các lời khuyên làm hại chính người dùng.