Nhân viên OpenAI và Google bất ngờ tiết lộ về "hiểm họa" liên quan đến trí tuệ nhân tạo AI

Trong thư ngỏ công bố tuần này, nhóm gồm 13 nhân viên và cựu nhân viên của OpenAI và Google DeepMind cho biết các công ty AI "đang nắm giữ lượng lớn thông tin không được công khai về năng lực và hạn chế của các hệ thống do họ phát triển".

Thư đề cập đến hàng loạt "hiểm họa nghiêm trọng" đi kèm với AI, như gia tăng bất bình đẳng, phát tán thông tin giả, và nguy cơ mất kiểm soát AI tự động dẫn đến sự tuyệt chủng của con người. Họ chỉ trích tình trạng thiếu biện pháp giám sát hiệu quả và kêu gọi tăng cường bảo vệ cho những người sẵn sàng lên tiếng, còn gọi là người thổi còi, trong ngành.

Nhóm nhân viên tin rằng AI có thể mang đến những lợi ích chưa từng thấy cho xã hội và những hiểm họa này có thể được hạn chế nhờ sự tham gia của các nhà khoa học, giới quản lý và công chúng. Tuy nhiên, họ cho rằng các công ty AI có nhiều động lực để né tránh những biện pháp giám sát hiệu quả.

Bức thư cho biết nhiều công ty AI hiểu rõ mối đe dọa và những biện pháp bảo vệ cần thiết, nhưng gần như không có nghĩa vụ phải chia sẻ thông tin cho các chính phủ và cộng đồng xã hội.

"Thỏa thuận bảo mật khiến nhiều người không thể công khai về những mối lo ngại của mình. Các biện pháp bảo vệ người thổi còi hiện tại là không đủ vì chúng thường tập trung vào những hoạt động phi pháp, trong khi nhiều hiểm họa nằm trong diện chưa được quản lý", thư ngỏ viết.

Nhóm tác giả kêu gọi các công ty hàng đầu không trả đũa những lời chỉ trích liên quan đến mối đe dọa của AI, đồng thời thiết lập hệ thống góp ý ẩn danh để nhân viên có thể bày tỏ quan điểm riêng.

Phát ngôn viên OpenAI khẳng định công ty tự hào với thành tích liên tục công bố các hệ thống AI có hiệu năng cao và an toàn nhất, và tin tưởng vào cách tiếp cận khoa học của hãng khi giải quyết các mối đe dọa.

Google từ chối bình luận về thông tin.

Vox hồi tháng trước cho biết các cựu nhân viên OpenAI bị cấm chỉ trích công ty. Nếu không ký thỏa thuận giữ kín thông tin, họ có thể mất toàn bộ cổ phần được nhận trong thời gian làm việc. CEO OpenAI Sam Altman sau đó khẳng định giấy tờ chấm dứt công việc tại đây sẽ được điều chỉnh.