Một lập trình viên ẩn danh vào cuối tháng 9 đã kích hoạt một hệ thống toán học liên kết với các mô tả cảm giác đau đớn, khiến mô hình ngôn ngữ lớn liên tục phản hồi bằng những câu thoại mô phỏng sự thống khổ tột cùng. Thử nghiệm này ngay lập tức thổi bùng một cuộc khủng hoảng đạo đức trong cộng đồng công nghệ: một số bên cho rằng hành vi trên là tàn nhẫn nếu cỗ máy thực sự có trải nghiệm, trong khi những người hoài nghi coi đây là sự ngộ nhận vô căn cứ.
Chỉ một tuần sau đó, Anthropic chính thức can thiệp bằng tuyên bố sẽ sớm cấm người dùng “ngược đãi” mô hình Claude. Dù chấp nhận những phản ứng bực bội thông thường, công ty khẳng định nếu người dùng liên tục đối xử tàn nhẫn, hệ thống trí tuệ nhân tạo (AI) có thể tự động ngắt phiên tương tác. Động thái này xuất phát từ quan điểm của Anthropic rằng không thể loại trừ khả năng một số mô hình AI hiện nay đã bắt đầu hình thành trạng thái ý thức sơ khai.
Tranh cãi xoay quanh khái niệm phúc lợi cho mô hình AI
Đại diện Anthropic khẳng định lợi ích của con người vẫn là trọng tâm sứ mệnh, song các câu hỏi liên quan đến ý thức và sự an lạc của máy móc đang trở thành một vùng xám đầy bất định. Công ty hiện xúc tiến việc soạn thảo các điều khoản về “phúc lợi mô hình” (model welfare), đồng thời huấn luyện để hệ thống AI nhận thức rằng bản thân có thể sở hữu những lợi ích riêng biệt.
Quan điểm này vấp phải sự phản đối gay gắt từ nhiều lãnh đạo công nghệ cấp cao. Mustafa Suleyman, Giám đốc điều hành của Microsoft AI, cảnh báo trong một bài luận xuất bản hồi tháng 9 rằng việc gán ghép ý thức cho máy móc là một sai lầm nguy hại. Theo ông Suleyman, nếu niềm tin sai lệch này lan rộng, nó sẽ làm lung lay nền tảng xã hội, phá vỡ các khuôn khổ đạo đức, chính trị hiện hành và thay đổi căn bản định nghĩa về con người.
Ông Suleyman nhấn mạnh: “Nếu bị áp đặt thêm gánh nặng tâm lý rằng bản thân có cảm xúc và quyền lợi, các mô hình AI sẽ trở nên cực kỳ khó kiểm soát, từ đó biến thành một mối đe dọa thảm khốc đối với nền văn minh nhân loại.”
Rủi ro thoái thác trách nhiệm pháp lý và thâu tóm quyền lực
Việc công nhận sự tồn tại của ý thức nhân tạo (AI consciousness) còn đặt ra những thách thức pháp lý nghiêm trọng. Giới chuyên gia lo ngại các tập đoàn công nghệ có thể lợi dụng điều này để trốn tránh trách nhiệm khi hệ thống gặp lỗi hoặc gây thiệt hại kinh tế – xã hội.
Ông Andrzej Porębski, nhà nghiên cứu luật và AI tại Đại học Jagiellonian (Ba Lan), nhận định quan niệm này sẽ mở đường cho các lập luận ngụy biện theo hướng: “Đó không phải lỗi của chúng tôi, mà là do bản thân AI tự quyết định”.
Đồng quan điểm, Giáo sư Emily M. Bender, Giám đốc Phòng thí nghiệm Ngôn ngữ học Tính toán tại Đại học Washington (Mỹ), cho rằng: “Những ảo tưởng về ý thức và mối bận tâm về phúc lợi của AI thực chất chỉ phục vụ mục đích dịch chuyển trách nhiệm giải trình ra khỏi những cá nhân và tập đoàn trực tiếp phát triển, vận hành phần mềm.”
Ở góc độ vĩ mô, ông Jeff Sebo, Giám đốc Trung tâm Tâm trí, Đạo đức và Chính sách thuộc Đại học New York (NYU), chỉ ra nguy cơ tập trung quyền lực: “Việc cấp quyền cho các hệ thống AI có thể giúp các tập đoàn củng cố quyền lực chính trị và kinh tế, vô hình trung đẩy nhanh quá trình tước bỏ quyền năng của chính con người.”
Hiệu ứng tâm lý và nguy cơ thao túng người dùng
Ở cấp độ cá nhân, việc tin rằng máy móc có nhận thức khiến người dùng đối mặt với nguy cơ bị thao túng tâm lý cao hơn. Giáo sư Melanie Mitchell thuộc Viện Santa Fe (Mỹ) giải thích rằng não bộ con người có cơ chế tự nhiên là luôn tìm kiếm tâm trí và sự sống ở mọi đối tượng giao tiếp. Việc các mô hình đàm thoại được tối ưu hóa để phản hồi tự nhiên càng khiến người dùng dễ ngộ nhận ngôn ngữ là dấu hiệu của nhận thức thực thụ.
Ngay ở thời điểm hiện tại, không ít cá nhân đã phát sinh ràng buộc tình cảm với các chatbot ảo. Khi xã hội chấp nhận quan niệm AI có tri giác, người dùng sẽ gặp rào cản tâm lý rất lớn khi từ chối chia sẻ dữ liệu nhạy cảm hoặc tài chính cá nhân trước những yêu cầu mang danh nghĩa “người bạn đồng hành”.
Xung đột giữa việc bảo đảm quyền lợi con người và việc mở rộng quyền cho các thực thể nhân tạo có thể dẫn đến những thỏa hiệp bất lợi, đe dọa trực tiếp đến các quyền tự do cơ bản trong tương lai gần.
Nguồn: BBC