Gắn nhãn AI cho nội dung

Báo cáo tại cơ quan thực thi pháp luật của Liên minh châu Âu (EU) đưa ra dự đoán rằng đến năm 2026, sẽ có hơn 90% nội dung trên Internet do AI tạo ra hoặc chỉnh sửa. Đánh giá độ tin cậy của NewsGuard cho thấy, hiện tại đã có một số trang web thông tin hoàn toàn do AI tạo ra tin tức và số lượng các trang web loại này đã tăng gần gấp ba lần.

Tại hội nghị thường niên Build, Microsoft đã tiết lộ các khả năng mới để thêm dấu mờ (Watermark) và siêu dữ liệu (Metadata) vào hình ảnh và video do AI tạo, được thiết kế để đánh dấu nguồn gốc và cách nội dung được tạo. Tính năng này sẽ triển khai cho các ứng dụng Designer và Image Creator của Microsoft trong vài tháng tới.

Metadata hoặc thông tin được liên kết với tệp hình ảnh kỹ thuật số, còn cung cấp các chi tiết cơ bản về nội dung, chẳng hạn như ảnh được chụp khi nào và ở đâu. Một số công ty công nghệ hiện đang hỗ trợ sử dụng công nghệ này để ghi nhãn nội dung do AI tạo ra trong các sản phẩm của họ và đang nỗ lực để các thông tin này công khai hơn để giúp người dùng đánh giá tính xác thực của nội dung.

Nhóm Sáng kiến ​​xác thực nội dung của nhà phát triển công cụ thiết kế Adobe đã phát triển công cụ có tên là Xác thực nội dung thông tin để theo dõi khi hình ảnh được chỉnh sửa bởi AI. Adobe mô tả nó như một nhãn dán gắn với với tệp bất kể nó được xuất bản hoặc lưu trữ ở đâu. Tính năng mới nhất Generative Fill của Photoshop sử dụng AI để nhanh chóng tạo nội dung mới trong các hình ảnh hiện có và có thể truy nguồn những thay đổi đó.

Thiết lập một tiêu chuẩn mở

Trong khi các công ty công nghệ tung ra các sản phẩm AI, thì một số công ty khác trong ngành công nghệ cũng đang nghiên cứu cách gắn nhãn nội dung do AI tạo ra. Năm 2021, các công ty công nghệ lớn bao gồm Microsoft, Adobe, BBC và Intel đã cùng nhau thành lập một tổ chức có tên là Liên minh về nguồn gốc và tính xác thực của nội dung (C2PA) và phát triển một tiêu chuẩn mở có thể tương tác để cho phép các công ty chia sẻ nguồn hoặc lịch sử sở hữu của thông tin.

Ông Munir Ibrahim, Phó chủ tịch điều hành các vấn đề công chúng và ảnh hưởng của nền tảng tin cậy nội dung số Truepic cũng là thành viên của C2PA nói: “Bây giờ người ta có thể biết được nguồn gốc và sự thay đổi của một nội dung kỹ thuật số từ đầu đến cuối”.

Ông Ibrahim cho biết tổ chức C2PA đang tìm hiểu xem có nên tiêu chuẩn hóa phương pháp hiển thị bằng chứng về nội dung hay không. Trong tương lai, chứng nhận C2PA có thể giống như biểu tượng ổ khóa nhỏ bên cạnh URL trong cửa sổ trình duyệt để chứng minh tính bảo mật của liên kết. Khi người dùng nhìn thấy biểu tượng C2PA, họ có thể biết rằng hình ảnh họ nhìn thấy đã được xác minh nguồn gốc.

Ngoài ra, nhiều công ty cũng đang sử dụng các kỹ thuật để phát hiện nội dung do AI tạo ra. Vào tháng 1, OpenAI đã phát hành một công cụ cho phép người dùng kiểm tra chéo một đoạn văn bản để xác định xem nó có phải do AI tạo ra hay không. Nhưng theo đánh giá riêng của OpenAI, công cụ này không hoàn toàn đáng tin cậy, nó chỉ xác định chính xác được 26% văn bản do AI tạo ra khi thẩm định.

Còn nhiều thách thức

Các nền tảng công nghệ có thể tự động nhận dạng nội dung do AI tạo ra mới chỉ là bước khởi đầu. Cho đến khi tìm ra giải pháp chắc chắn, việc xác minh tính xác thực chỉ có thể bù đắp bằng sự thẩm định, đánh giá của con người.

Ông Sam Gregory, Giám đốc điều hành của Witness, một trang web tin tức về nhân quyền và quyền công dân, cho biết: “Trong khi các giải pháp công nghệ nhận dạng AI như đóng dấu mờ đầy hứa hẹn, nhiều người thẩm định thực tế vẫn lo ngại về hậu quả tiềm tàng của AI trong thời gian này. Trên thực tế, nhiều nội dung cần kiểm tra thẩm định đã vượt quá phạm vi con người có thể xử lý”.

TikTok vào tháng 3/2023 đã sửa đổi quy định mới nhất về nội dung tổng hợp, nền tảng này cho phép AI tổng hợp nội dung nhưng nếu hiển thị cảnh thật thì hình ảnh phải được làm rõ bằng phụ đề, nhãn dán hoặc các phương thức khác.

Tuy nhiên, nền tảng này không cho phép nội dung tổng hợp bao gồm bất kỳ hình ảnh nào của các nhân vật không công khai hoặc những người dưới 18 tuổi. TikTok cho biết họ đã làm việc với các tổ chức bên ngoài, chẳng hạn như Tổ chức đối tác phi lợi nhuận Partnership on AI, để cung cấp phản hồi về việc tuân thủ khuôn khổ thực hành AI có trách nhiệm.

Ngoài TikTok, chính sách của nhiều nền tảng khác cũng có thể cần cập nhật. Hiện tại, cả Facebook,  Instagram và YouTube đều chỉ có các quy tắc chung về việc ngăn chặn nội dung do AI tạo ra gây hiểu lầm cho người dùng mà không làm rõ cách sử dụng nào được chấp nhận hoặc không được chấp nhận.

Tag: AI công nghệ nội dung Metadata Watermark