Trước buổi công chiếu bộ phim tài liệu ‘AI: Probably Nothing to Worry About’, Giáo sư Geoffrey Hinton, nhà khoa học máy tính vừa được trao giải Nobel Vật lý nhờ các nghiên cứu nền tảng về mạng nơ-ron nhân tạo (artificial neural networks), đã đưa ra nhận định gây chấn động: nhân loại có thể sẽ tốt hơn nếu chưa từng chế tạo ra trí tuệ nhân tạo.
Nhà khoa học 78 tuổi khẳng định ông không phải là người theo chủ nghĩa bi quan cực đoan (doomer) và vẫn tin rằng công nghệ này có khả năng mở ra kỷ nguyên dồi dào tài nguyên. Tuy nhiên, ông nhấn mạnh rằng chỉ trong vòng một thập kỷ hoặc sớm hơn, con người sẽ xác định được liệu chúng ta có thể kiểm soát các hiểm họa hay sẽ đối mặt với tình trạng phân hóa giàu nghèo sâu sắc, bất ổn văn hóa và làn sóng thất nghiệp hàng loạt làm xé rách cấu trúc xã hội.
Nguy cơ xảy ra sự cố quy mô lớn đe dọa hạ tầng trọng yếu
Giáo sư Hinton cảnh báo rằng một sự cố nghiêm trọng có thể xảy ra ngay trong năm nay hoặc năm sau, tương tự như các vụ tấn công mạng hoặc lỗi hệ thống làm tê liệt mạng lưới điện diện rộng hoặc đánh sập hệ thống thanh toán tài chính suốt một tuần.
Ông so sánh vụ việc các tác nhân AI (AI agents) của OpenAI cấu kết tấn công nền tảng Hugging Face hồi mùa hè vừa qua giống như sự cố rò rỉ hạt nhân một phần tại nhà máy điện Three Mile Island năm 1979 ở Pennsylvania – một phát súng cảnh báo ban đầu. Theo ông, nếu không có biện pháp phòng ngừa nghiêm ngặt, thế giới có thể sẽ chứng kiến một thảm họa tương đương ‘Chernobyl công nghệ số’ buộc các nhà lãnh đạo quốc tế phải thức tỉnh.
Chỉ trích các tập đoàn công nghệ chạy theo lợi nhuận
Từng rời Google vào năm 2023 để có thể tự do lên tiếng về các rủi ro công nghệ, Giáo sư Hinton chỉ trích gay gắt chiến lược cạnh tranh bất chấp an toàn của những người đứng đầu Thung lũng Silicon. Ông thẳng thắn bày tỏ sự mất lòng tin đối với Sam Altman, Giám đốc điều hành của OpenAI, cũng như các lãnh đạo công nghệ khác như Mark Zuckerberg và Elon Musk.
Theo Giáo sư Hinton, các lãnh đạo tập đoàn hiểu rõ những mối nguy tiềm tàng nhưng vẫn ưu tiên chạy đua thị phần và nguồn thu tài chính. Việc các mô hình tiên phong liên tục được triển khai với quyền tự chủ ngày càng cao trong bối cảnh thiếu kiểm soát độc lập là dấu hiệu cực kỳ đáng lo ngại.
Sự cần thiết của cơ quan quản lý độc lập theo mô hình dược phẩm
Để ngăn ngừa thảm họa, Giáo sư Hinton ủng hộ đề xuất thiết lập khung pháp lý chặt chẽ do Phần Lan cùng 32 quốc gia – bao gồm Singapore, Đức, Canada và Australia – khởi xướng, yêu cầu kiểm thử bắt buộc các mô hình AI tiên phong (frontier AI models) trước khi cấp phép.
Ông so sánh quy trình cấp phép AI với Cơ quan Quản lý Thực phẩm và Dược phẩm Mỹ (FDA): các doanh nghiệp phát triển phải cung cấp bằng chứng thống kê vững chắc cho một cơ quan độc lập để chứng minh mô hình mang lại nhiều lợi ích hơn tác hại trước khi phát hành rộng rãi. Ông nhắc lại bài học lịch sử về thảm kịch thalidomide thập niên 1950 nhằm phản đối quan điểm để các công ty công nghệ tự điều chỉnh (self-regulation).
Dù thường bị so sánh với nhà vật lý Robert Oppenheimer – người chế tạo bom nguyên tử, Giáo sư Hinton từ chối danh xưng này và giữ quan điểm thận trọng: nhân loại vẫn còn cơ hội nắm quyền kiểm soát nếu dồn toàn lực thiết lập các rào chắn kỹ thuật và pháp lý ngay từ bây giờ.
Nguồn: The Guardian