Google sẽ đánh dấu bên trong các hình ảnh được tạo bởi các mô hình AI, để cảnh báo mọi người rằng những hình ảnh đó được tạo bởi máy tính.
Dữ liệu được gán nhãn bên trong hình ảnh sẽ không hiển thị trực tiếp qua mắt người xem nhưng phần mềm như Google tìm kiếm sẽ có thể đọc dữ liệu và sau đó hiển thị nhãn cảnh báo người dùng.
Google cũng sẽ cung cấp thông tin bổ sung về tất cả các hình ảnh trong kết quả của mình. Qua đó, ngăn chặn hành vi giả mạo, kể cả thời điểm hình ảnh được tải lên công cụ tìm kiếm lần đầu tiên và hình ảnh đó được trích dẫn bởi các trang tin tức.
Google sẽ dán nhãn hình ảnh giả được tạo bằng AI để cảnh báo lừa đảo
Giám đốc điều hành của Alphabet, Sundar Pichai, có bài phát biểu quan trọng tại hội nghị các nhà phát triển Google I/O tại Shoreline Amphitheatre ở Mountain View, California, ngày 10 tháng 5 năm 2023.
“Hình ảnh tự dán nhãn là do AI tạo ra,” là một cảnh báo do Google cung cấp.
Động thái này là nỗ lực đáng kể nhất của một công ty công nghệ lớn cho đến nay, nhằm gắn nhãn và phân loại đầu ra từ AI.
Quảng cáo
Các quan chức và nhân viên công nghệ đã cảnh báo khả năng tạo ra hình ảnh chân thực hoặc đoạn văn trôi chảy của công nghệ có thể giúp những kẻ gửi thư rác, kẻ lừa đảo và kẻ lợi dụng các nền tảng xã hội để tuyên truyền đánh lừa mọi người.
Ví dụ: một hình ảnh được tạo gần đây về Đức Thánh Cha Phanxicô trong chiếc áo khoác mùa đông sành điệu được tạo trên ứng dụng của Midjourney đã lan truyền nhanh chóng. Nhiều người đã tin rằng đó là ảnh thật.
Một vấn đề mà ngành công nghiệp AI phải đối mặt là không thể xác định độ tin cậy về hình ảnh được tạo ra. Mặc dù, thường có một số manh mối, chẳng hạn như bàn tay vẽ xấu.
Nhưng không có cách nào chắc chắn để phân biệt hình ảnh nào do máy tính tạo ra và hình ảnh nào do con người vẽ hoặc chụp ảnh. Cách tiếp cận của Google là gắn nhãn hình ảnh khi chúng vừa ra khỏi hệ thống AI.
Thay vì cố gắng xác định xem chúng có phải là thật hay không, Google cho biết Shutterstock và MidjTHER sẽ hỗ trợ phương pháp đánh dấu mới này.
Tài liệu dành cho nhà phát triển của Google cho biết đánh dấu sẽ có thể phân loại hình ảnh thành phương tiện thuật toán được đào tạo, được tạo bởi mô hình AI. Ví dụ như phân biệt và dán nhãn hình ảnh tổng hợp được tạo một phần bằng mô hình AI hoặc phương tiện thuật toán, được tạo bởi máy tính.
Google đã tổ chức hội nghị các nhà phát triển hàng năm vào thứ 4. Tại đây, họ đã công bố một chiếc điện thoại gập trị giá 1.799 USD và các tính năng AI bổ sung cho các sản phẩm khác của Google, bao gồm cả trình tạo hình ảnh.