ĐỜI SỐNG

Các chuyên gia nói về Q* của OpenAI, dự án AI bí ẩn có thể đe dọa loài người

DDVN • 27-11-2023 • Lượt xem: 781
Các chuyên gia nói về Q* của OpenAI, dự án AI bí ẩn có thể đe dọa loài người

Khi cơn hỗn loạn tại OpenAI lắng xuống, nhiều người vẫn chưa biết chính xác tại sao Giám đốc điều hành Sam Altman lại bị sa thải hôm 17.11 trước khi được bổ nhiệm lại. Song, các báo cáo cho rằng nguyên nhân có thể liên quan đến một mô hình trí tuệ nhân tạo (AI) bí ẩn.

Tin bài khác:

Thiết bị thông minh - Mục tiêu tấn công của tin tặc trong tương lai

AI thời tiết của Google DeepMind dự báo thời tiết chính xác hơn

>The Information đưa tin một nhóm do Ilya Sutskever, Giám đốc khoa học OpenAI, dẫn đầu đã đạt được bước đột phá vào đầu năm nay, cho phép họ xây dựng một mô hình AI mới có tên Q*. Mô hình AI này được cho là có khả năng giải quyết các bài toán toán học cấp tiểu học.

Reuters cho biết Q* đã gây ra cơn bão tố nội bộ, khi một số nhân viên viết thư cho hội đồng quản trị OpenAI cũ cảnh báo rằng bước đột phá mới có thể đe dọa nhân loại.

Cảnh báo này được cho là một trong những lý do khiến hội đồng quản trị OpenAI cũ quyết định sa thải Sam Altman, người đã trở lại làm giám đốc điều hành hôm 22.11 sau nhiều ngày hỗn loạn tại công ty.

Theo một trong những nguồn tin, Mira Murati, Giám đốc công nghệ OpenAI, nói với các nhân viên rằng một bức thư về Q* đã thúc đẩy hành động của hội đồng quản trị.

Một trong những nguồn tin nói với Reuters rằng OpenAI, "cha đẻ" ChatGPT, đã đạt được tiến bộ về Q*. Đây là điều mà một số người trong nội bộ tin rằng có thể là một bước đột phá trong cuộc tìm kiếm siêu trí tuệ, còn được gọi là AGI (trí tuệ nhân tạo tổng hợp), của công ty khởi nghiệp này. AGI được coi là mục tiêu cuối cùng của lĩnh vực AI vì về mặt lý thuyết, đại diện cho thời điểm khi loài người tạo ra thứ gì đó thông minh bằng hoặc hơn chính mình.

Với nguồn tài nguyên máy tính khổng lồ, Q* có thể giải quyết một số vấn đề toán học nhất định. Nguồn tin cho biết dù chỉ thực hiện phép toán ở cấp độ học sinh tiểu học nhưng việc hoàn thành được những bài kiểm tra như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.

Khả năng giải các bài toán cơ bản nghe có vẻ không ấn tượng lắm, nhưng các chuyên gia AI nói với trang Insider rằng nó sẽ thể hiện một bước tiến vượt bậc so với các mô hình hiện có, vốn đang gặp khó khăn trong việc khái quát hóa bên ngoài dữ liệu mà chúng được đào tạo.

“Nếu nó có khả năng suy luận một cách hợp lý về các khái niệm trừu tượng, điều mà hiện tại nó đang thực sự gặp khó khăn, thì đó là một bước nhảy vọt khá lớn”, theo Charles Higgins, đồng sáng lập Tromero (công ty khởi nghiệp huấn luyện AI) và là ứng viên tiến sĩ về an toàn AI.

Ông nói thêm: "Toán học là về lý luận tượng trưng. Ví dụ nếu X lớn hơn Y và Y lớn hơn Z thì X lớn hơn Z. Các mô hình ngôn ngữ theo truyền thống thực sự gặp khó khăn ở vấn đề đó bởi chúng không có lý luận logic, mà chỉ có trực giác hiệu quả”.

Sophia Kalanovska, đồng sáng lập Tromero, nói với Insider rằng cái tên Q* ngụ ý rằng nó có thể là sự kết hợp của hai kỹ thuật AI nổi tiếng là Q-learning và A* search. Bà cho biết điều này gợi ý rằng mô hình AI mới có thể kết hợp các kỹ thuật học sâu hỗ trợ ChatGPT với các quy tắc do con người lập trình. Đó là một cách tiếp cận có thể giúp khắc phục vấn đề “ảo giác” (trả lời sai nhưng như thật) của chatbot AI.

Học sâu (deep learning) là một lĩnh vực của AI tập trung vào việc xây dựng và đào tạo các mô hình học máy, đặc biệt là các mạng nơ-ron sâu để thực hiện các nhiệm vụ mà trước đây đòi hỏi sự giải quyết và hiểu biết của con người. Mô hình học sâu có khả năng tự học và tìm hiểu từ dữ liệu, với sự giúp đỡ ít hoặc không cần sự can thiệp của con người.

Một số ứng dụng nổi bật của học sâu gồm nhận dạng hình ảnh, nhận dạng giọng nói, xử lý ngôn ngữ tự nhiên cùng nhiều nhiệm vụ khác trong lĩnh vực thị giác máy tính và xử lý ngôn ngữ tự nhiên. Các mô hình học sâu thường chứa nhiều tầng nơ-ron, do đó được gọi là "sâu", có khả năng tự học các đặc trưng và biểu diễn phức tạp từ dữ liệu.

Một trong những loại mô hình học sâu phổ biến là mạng nơ-ron hồi quy sâu (deep neural network) và mạng nơ-ron chập sâu (deep convolutional neural network), được sử dụng rộng rãi trong nhiều ứng dụng thị giác máy tính và xử lý ngôn ngữ tự nhiên.

Sophia Kalanovska nói thêm: “Tôi nghĩ nó rất quan trọng về mặt biểu tượng. Ở mức độ thực tế, tôi không nghĩ nó sẽ kết thúc thế giới. Tôi nghĩ lý do tại sao mọi người tin rằng Q* sẽ dẫn đến AGI là bởi từ những gì chúng tôi đã nghe được cho đến nay, có khả năng biết đến một số điều từ trải nghiệm, trong khi vẫn có khả năng lập luận về các sự thật. Đó chắc chắn là một bước gần hơn với những gì chúng ta coi là trí thông minh và có thể dẫn đến việc mô hình đưa ra những ý tưởng mới, điều này không xảy ra với ChatGPT".

Một nhóm do Giám đốc khoa học OpenAI dẫn đầu đã đạt được bước đột phá vào đầu năm nay, cho phép họ xây dựng một mô hình AI mới có tên Q* - Ảnh: Internet

Việc không thể suy luận và phát triển các ý tưởng mới, thay vì chỉ lấy lại thông tin từ dữ liệu đào tạo của chúng, được coi là một hạn chế rất lớn của các mô hình AI hiện có, ngay cả với những người xây dựng chúng.

Tiến sĩ Andrew Rogoyski, Giám đốc Viện Surrey Institute for People-Centered AI, nói rằng việc giải quyết các vấn đề chưa được nhìn thấy là một bước quan trọng để tạo ra AGI.

Ông nói: “Trong trường hợp toán học, chúng tôi biết các AI hiện tại đã được chứng minh là có khả năng giải toán ở trình độ đại học nhưng lại phải vật lộn với bất kỳ môn toán nào cao cấp hơn. Tuy nhiên, nếu AI có thể giải quyết các vấn đề mới, chưa từng thấy, chứ không chỉ lấy lại hoặc định hình lại kiến thức hiện có, thì đây sẽ là một thành tựu lớn, ngay cả khi phép toán tương đối đơn giản”.

Không phải ai cũng hào hứng với bước đột phá được báo cáo. Gary Marcus, chuyên gia AI và nhà phê bình về học sâu, bày tỏ nghi ngờ về khả năng của Q* trong một bài đăng trên nền tảng Substack.

"Nếu tôi nhận được một cent cho mỗi suy luận như vậy: 'Hôm nay, nó hoạt động cho học sinh cấp tiểu học! Năm sau, nó sẽ chiếm đóng thế giới!', thì tôi sẽ giàu như Elon Musk," Gary Marcusviết.

OpenAI không trả lời câu hỏi của trang Insider về vấn đề này.

Theo Sơn Vân/1thegioi.vn