Ông Stuart Russell, chuyên gia hàng đầu về an toàn AI, cho rằng các tập đoàn công nghệ toàn cầu đang rơi vào một cuộc “chạy đua vũ trang” về AI, và hậu quả tiềm tàng của nó có thể đe dọa toàn bộ nền văn minh nhân loại.

Ai sẽ là người hãm phanh?

Ông Russell cho rằng các lãnh đạo những công ty AI lớn trên thế giới không phải hoàn toàn không nhận thức được rủi ro. Ngược lại, họ “hiểu rõ nguy cơ các hệ thống siêu trí tuệ có thể vượt trên con người”. Nhưng vấn đề là không một doanh nghiệp đơn lẻ nào có thể chủ động “hạ vũ khí” xuống trước.

“Tôi tin rằng CEO của tất cả các công ty AI lớn đều muốn chấm dứt cuộc chạy đua này,” ông nói, “nhưng họ không thể đơn phương làm vậy, nếu không sẽ bị nhà đầu tư loại bỏ.”

Ông tiết lộ rằng một số lãnh đạo đã bày tỏ lo ngại tương tự trong các cuộc trao đổi riêng. Ở cấp độ công khai, CEO của OpenAI Sam Altman cũng từng thừa nhận rằng về mặt lý thuyết, AI có khả năng dẫn đến tuyệt chủng nhân loại.

Tuy nhiên, cho đến nay, những gì đạt được tại các hội nghị thượng đỉnh quốc tế chủ yếu chỉ là các cam kết tự nguyện của doanh nghiệp, thiếu tính ràng buộc bắt buộc. Ông Russell nhấn mạnh rằng trách nhiệm thực sự nằm ở việc các chính phủ hành động tập thể để thiết lập khuôn khổ giám sát cứng rắn.

Lãnh đạo từ chức, công nghệ deepfake và nhận định sai lầm về thực tế

TechRadar đã tổng hợp nhiều tín hiệu đáng lo ngại gần đây. Trước hết là làn sóng từ chức của các lãnh đạo cấp cao trong lĩnh vực an toàn. Một lãnh đạo phụ trách nghiên cứu an toàn AI của Anthropic đã công khai từ chức và cảnh báo rằng “thế giới đang ở trong tình trạng nguy hiểm”. Những trường hợp ra đi tương tự không phải cá biệt. Các phòng thí nghiệm như xAI cũng chứng kiến nhân sự chủ chốt rời đi. Các vụ từ chức này thường đi kèm tuyên bố công khai, đặt câu hỏi liệu các doanh nghiệp có hy sinh tiêu chuẩn an toàn dưới áp lực cạnh tranh hay không.

Tiếp theo là sự lan tràn của công nghệ deepfake. Các cơ quan quản lý đã mở điều tra về việc một số nền tảng tạo ra hình ảnh không phù hợp liên quan đến trẻ vị thành niên. Khi rào cản sử dụng công cụ tạo sinh giảm xuống, công nghệ cần thiết để làm giả hình ảnh và video cũng trở nên đơn giản hơn nhiều. Hệ quả không chỉ là cá nhân bị tổn hại, mà còn là sự xói mòn nền tảng niềm tin công cộng.

Ngoài ra, vấn đề “ảo giác” của AI đang từ màn hình bước ra thế giới thực. Các hệ thống như xe tự lái, robot kho bãi và máy bay không người lái phụ thuộc vào nhận diện thị giác và ra quyết định theo thời gian thực. Nghiên cứu cho thấy những nhiễu loạn môi trường nhỏ hoặc thay đổi biển báo được thiết kế có chủ ý có thể khiến hệ thống nhận định sai. Ví dụ, nếu hệ thống nhận diện biển “dừng lại” thành biển “giới hạn tốc độ” — trong phòng thí nghiệm đó chỉ là lỗi, nhưng trên đường phố có thể là thảm họa.