Công ty trí tuệ nhân tạo cho biết các tác nhân gây ra mối đe dọa đã sử dụng mô hình AI của OpenAI để tạo ra các bình luận ngắn, bài viết dài hơn bằng nhiều ngôn ngữ, tạo tên và tiểu sử cho các tài khoản mạng xã hội trong ba tháng qua.

Các chiến dịch này, bao gồm các tác nhân đe dọa từ Nga, Trung Quốc, Iran và Israel, cũng tập trung vào các vấn đề bao gồm cuộc xâm lược Ukraine của Nga, cuộc xung đột ở Gaza, cuộc bầu cử ở Ấn Độ, chính trị ở châu Âu và Mỹ, cùng những vấn đề khác.

OpenAI cho biết trong một tuyên bố rằng các hoạt động lừa đảo là một “nỗ lực nhằm thao túng dư luận hoặc gây ảnh hưởng đến kết quả chính trị”.

Báo cáo của công ty có trụ sở tại San Francisco là báo cáo mới nhất làm dấy lên mối lo ngại an ninh về khả năng lạm dụng công nghệ AI tạo sinh - công nghệ có thể nhanh chóng và dễ dàng tạo ra văn bản, hình ảnh và âm thanh giống con người.

OpenAI - công ty được gã khổng lồ công nghệ Microsoft hậu thuẫn, hồi đầu tuần này cho biết họ đã thành lập Ủy ban An toàn và Bảo mật được lãnh đạo bởi các thành viên hội đồng quản trị, bao gồm cả Giám đốc điều hành Sam Altman, khi họ bắt đầu đào tạo mô hình AI tiếp theo của mình.

OpenAI cho biết trong một tuyên bố rằng các chiến dịch lừa đảo đã không được hưởng lợi từ việc tăng cường tương tác hoặc tiếp cận đối tượng nhờ các dịch vụ của công ty AI.

OpenAI cho biết các hoạt động này không chỉ sử dụng tài liệu do AI tạo ra mà còn bao gồm các văn bản hoặc meme được viết thủ công được sao chép từ khắp nơi trên Internet.

Một trong diễn biến khác có liên quan đến vấn đề an ninh mạng, Meta trong báo cáo bảo mật hàng quý được công bố hôm 29/5, cho biết họ đã tìm thấy nội dung "có thể do AI tạo ra" được sử dụng một cách lừa đảo trên nền tảng Facebook và Instagram của mình, bao gồm cả các bình luận ca ngợi cách xử lý chiến tranh của Israel ở Gaza được đăng dưới các bài đăng từ các tổ chức tin tức toàn cầu và các nhà lập pháp Mỹ.