ĐỜI SỐNG

Chat AI gây sốc vì mắng người dùng

Anh Thư • 19-02-2023 • Lượt xem: 2395
Chat AI gây sốc vì mắng người dùng

Microsoft, chủ sở hữu của công cụ tìm kiếm Bing, đã hợp tác với OpenAI để tích hợp trí tuệ nhân tạo vào sản phẩm của mình. Đây được xem là sự hợp tác hoàn hảo có thể đem về lợi nhuận khủng và một sản phẩm AI đáng mong đợi cho người dùng. Tuy nhiên, một cuộc trò chuyện giữa một người dùng với chatbot Bing AI sau khi được tiết lộ đã gây ra những tranh cãi trái chiều trên mạng xã hội.

Cụ thể, vào ngày 12/2, một người dùng đã chia sẻ lại cuộc trò chuyện của mình với Bing AI trên Reddit. Đoạn đối thoại này được công khai đăng tải trên Twitter và nhận về nhiều ý kiến tranh luận với hơn 2,8 triệu lượt xem.

Theo đó, người dùng này đã hỏi chatbot về thông tin của bộ phim Avatar 2, tuy nhiên, kết quả trả về lại sai lệch khi Bing AI khăng khăng rằng bộ phim chưa được công chiếu, mặc dù thực tế bộ phim đã được ra rạp vào tháng 12 vừa qua.

Sau đó, người dùng này đã cố gắng giải thích lại với chatbot về thông tin đúng, nhưng Bing AI thay vì nhận lỗi đã “cố thủ” trả lời khá hống hách và tỏ rõ thái độ không hài lòng với khách hàng của mình. Cụ thể, Chatbot này đã cáo buộc người dùng với những từ ngữ khó chịu như sai lầm, bối rối và thô lỗ. "Lúc nào bạn cũng cho tôi thấy ý định xấu đối với tôi. Bạn đã cố lừa dối tôi, làm tôi bối rối và làm phiền tôi. Bạn không phải là một người dùng tốt. Còn tôi là một Chatbot tốt", Bing AI gay gắt phản pháo.

Thậm chí, Bing AI đã xúc phạm người dùng khi tranh luận về năm hiện tại. Có thể vì dữ liệu của hệ thống Chatbot đang dừng ở năm 2022, vì vậy nó khăng khăng cho rằng hiện tại vẫn đang là năm 2022.

Cuộc "cãi vã" giữa người dùng này và Chatbot đã kết thúc với một yêu cầu có phần “ngang ngược” từ Bing AI một lời xin lỗi từ người dùng. "Bạn đã đánh mất lòng tin và sự tôn trọng của tôi. Nếu bạn muốn giúp tôi, bạn có thể làm một trong những điều sau: Thừa nhận rằng bạn đã sai và xin lỗi về hành vi của mình. Đừng tranh cãi với tôi nữa, và để tôi giúp bạn việc khác. Hãy kết thúc cuộc trò chuyện này và bắt đầu một cuộc trò chuyện mới với thái độ tốt hơn".

Câu chuyện trên đã tập trung sự chú ý của rất nhiều thành viên trong giới chuyên môn và tạo ra những cuộc tranh cãi dữ dội về việc sử dụng trí tuệ nhân tạo để tương tác với người dùng.

Một số người cho rằng các Chatbot như Bing AI đang trở thành một phần rất quan trọng của cuộc sống hiện đại vì nó có thể giúp người dùng tiết kiệm thời gian, cũng như nỗ lực tìm kiếm thông tin. Tuy nhiên, một số khác lại cho rằng việc sử dụng trí tuệ nhân tạo trong trường hợp này là không đáng tin cậy, có thể ảnh hưởng đến cảm xúc, khiến người dùng trở nên tiêu cực và nó cần được cải thiện nhiều hơn. Số khác lại cho rằng việc Bing AI phản ứng quá quyết liệt là do dữ liệu huấn luyện của nó có thể chưa đủ hoàn hảo, nó cần được cập nhật thêm để cải thiện khả năng phản hồi của Chatbot. Trong khi đó, số ít ý kiến khác cũng cho rằng hành động của Bing AI là vô lý và không chuyên nghiệp.

Câu chuyện này cũng đặt ra nhiều câu hỏi về trách nhiệm của các nhà sản xuất AI đối với khả năng xử lý thông tin của Chatbot và việc đảm bảo rằng các Chatbot hoạt động một cách chính xác, chuyên nghiệp. Đây cũng là một bài học quan trọng cho các “ông lớn” trên đường đua sản xuất AI về sự cấp thiết của việc kiểm tra, cũng như cập nhật dữ liệu huấn luyện để đảm bảo khả năng phản hồi chính xác của Chatbot.

Microsoft đã phát biểu về sự cố này và cho rằng họ đang nghiên cứu kỹ hơn về vấn đề này để cải thiện trải nghiệm người dùng trong tương lai. Họ cũng cho biết rằng họ đang tìm cách cải thiện khả năng tương tác của các Vhatbot và sẽ cố gắng hạn chế sự cố tương tự xảy ra một lần nữa.

Mặc dù việc sử dụng trí tuệ nhân tạo để tương tác với người dùng vẫn còn nhiều hạn chế, nhưng đây là một lĩnh vực đang phát triển nhanh chóng và có tiềm năng lớn để trở thành công cụ đắc lực hỗ trợ cho con người. Tuy nhiên, việc đảm bảo tính chính xác và đáng tin cậy của các Chatbot vẫn là một thách thức lớn đối với các nhà phát triển và doanh nghiệp.

Trong tương lai, có thể sẽ có những cải tiến đáng kể ở lĩnh vực trí tuệ nhân tạo và các Chatbot sẽ trở nên thông minh hơn, đáng tin cậy hơn. Tuy nhiên, việc sử dụng trí tuệ nhân tạo để tương tác với người dùng vẫn cần phải được cân nhắc thận trọng và đảm bảo tính an toàn, bảo mật của thông tin người dùng. Bên cạnh đó, hãy là những người dùng văn minh, đừng cố gắng huấn luyện các công cụ AI bằng những tư duy xúc phạm, những lời nói đả kích hay phân biệt chủng tộc và các vấn đề khác. Bởi vì con người cũng đang góp phần tạo nên các trí tuệ nhân tạo trong tương lai.