Giáo sư triết học Darren Hick của Đại học Furman ở Greenville, Nam Carolina đã đăng một bài đăng dài trên Facebook về các vấn đề với chatbot tiên tiến và kẻ đạo văn đầu tiên mà ông đã phát hiện ra trong một bài tập dài 500 từ gần đây.

Khi được đào tạo trên một lượng lớn văn bản từ internet, ChatGPT có thể hiểu lời nói của con người, trò chuyện với con người và tạo ra văn bản chi tiết mà theo nhiều người là rất ấn tượng và giống con người.

Hicks cho biết: “ChatGPT trả lời trong vòng vài giây với câu trả lời giống như được viết bởi con người với kiến thức ngữ pháp tốt và hiểu rõ về cách cấu trúc bài luận".

Ông đã viết trong một bài đăng dài trên Facebook: “Dấu hiệu đầu tiên mà tôi đang tìm hiểu về AI là mặc dù bài luận có sự mạch lạc về mặt cú pháp, nhưng nó không có ý nghĩa gì cả. Các vấn đề với chatbot nâng cao và kẻ đạo văn đầu tiên mà ông ấy phát hiện ra trong một bài tập gần đây”.

Hicks đã quan sát thấy một số dấu hiệu cảnh báo khác là ChatGPT cũng gây khó chịu khi trích dẫn.

Hicked giải thích rằng: “AI sẽ cách mạng hóa giáo dục cơ bản, trong cách cấu trúc các bài tiểu luận mặc dù mỗi khi bạn nhắc ChatGPT thì ít nhất sẽ có một phản hồi hơi khác. Điều đó sẽ cho phép tôi nâng cao các lá cờ bổ sung trong tương lai. Nhưng một lần nữa, ChatGPT vẫn đang được học hỏi, vì vậy nó có thể tốt”.

Gần đây, một số giáo viên và giáo sư đã bày tỏ lo ngại về khả năng của các chatbot AI.

Sau khi thử nghiệm ChatGPT bằng cách sử dụng AI để viết câu trả lời cho nhiều bài kiểm tra, Kevin Bryan, phó giáo sư quản lý chiến lược tại Đại học Toronto, cho biết ông bị sốc trước khả năng của nó. Bryan đã điều hành một chương trình khởi nghiệp dựa trên AI và theo sát ngành này.

Bryan đã tuyên bố ở phần đầu của một chủ đề Twitter phác thảo các khả năng của AI, "Bạn không thể đưa ra các bài kiểm tra, bài tập về nhà nữa".

Jonathan Bailey giải thích trên tờ Plagiarism Today rằng bài luận đại học, mặc dù độ phổ biến của nó đã giảm dần trong những năm qua.

Một bài luận vẫn có thể là một công cụ đánh giá hữu ích bất chấp những khó khăn. Bailey đã viết:“Bài luận có khả năng vẫn là một công cụ mà người hướng dẫn sử dụng để đánh giá sự hiểu biết của học sinh về tài liệu ngay cả khi nó không còn là tiêu chuẩn hay tiêu chuẩn vàng nữa. Bài luận sẽ không bị hỏng do AI, nhưng nó có thể bị thay đổi. Nó có thể thay đổi cách tiếp cận tổng thể của khái niệm, mức độ phơi sáng được phân loại và lời nhắc được sử dụng”.

Về phần mình, OpenAI đã đưa ra tuyên bố sau: Định dạng hộp thoại cho phép ChatGPT trả lời các câu hỏi tiếp theo, thừa nhận sai lầm của mình, thách thức các tiền đề sai và từ chối các yêu cầu không phù hợp.

Chatbot ChatGPT của OpenAI dùng để làm gì?

Theo OpenAI, mô hình ChatGPT của họ, được đào tạo với sự trợ giúp của phương pháp học máy có tên là Học tăng cường từ phản hồi của con người (RLHF), có thể mô phỏng các cuộc đối thoại, trả lời các câu hỏi tiếp theo, thừa nhận sai lầm, đặt câu hỏi về tiền đề sai, và từ chối những yêu cầu không phù hợp.

Trong giai đoạn đầu của quá trình phát triển, các huấn luyện viên AI của con người đóng vai cả người dùng và trợ lý AI trong các cuộc hội thoại được phát cho mô hình. Phiên bản của bot có sẵn để thử nghiệm công khai sẽ cố gắng hiểu các câu hỏi mà người dùng đặt ra và cung cấp các câu trả lời chi tiết theo phong cách đàm thoại có thể so sánh được với các câu hỏi do con người viết.

Các ứng dụng trong thế giới thực cho một công cụ như ChatGPT bao gồm tiếp thị kỹ thuật số, tạo nội dung trực tuyến, trả lời các câu hỏi về dịch vụ khách hàng và như một số người dùng đã phát hiện ra, thậm chí cả mã gỡ lỗi.

Trong khi bắt chước phong cách nói của con người, bot có thể trả lời nhiều câu hỏi khác nhau.

Cũng như nhiều đổi mới dựa trên AI, ChatGPT không phải là không có mối lo ngại. Nó có thể được sử dụng trong các ứng dụng trong thế giới thực như tiếp thị kỹ thuật số, tạo nội dung trực tuyến, đáp ứng yêu cầu dịch vụ khách hàng hoặc thậm chí gỡ lỗi mã, như một số người dùng đã phát hiện ra. OpenAI đã thừa nhận xu hướng cung cấp câu trả lời nghe có vẻ hợp lý nhưng sai hoặc vô nghĩa của công cụ này, một vấn đề mà nó thấy khó giải quyết.

Định kiến dựa trên chủng tộc, giới tính và văn hóa cũng có thể được duy trì bởi công nghệ AI. Google, thuộc sở hữu của Alphabet Inc. và Amazon.com, một gã khổng lồ công nghệ, trước đây đã thừa nhận rằng một số thử nghiệm AI của họ nhạy cảm về mặt đạo đức và bị hạn chế. Một số doanh nghiệp đã phải vào cuộc để sửa chữa những thiệt hại do AI gây ra cho con người.

Nghiên cứu AI vẫn hấp dẫn bất chấp những lo ngại này. Theo dữ liệu từ PitchBook, một công ty theo dõi quỹ có trụ sở tại Seattle, các khoản đầu tư vốn mạo hiểm vào các công ty vận hành và phát triển AI đã tăng lên gần 13 tỷ đô la vào năm ngoái và lên đến 6 tỷ đô la cho đến tháng 10 năm 2022.

Tag: ChatGPT OpenAI AI