Tại Anh, khoảng 95% số giường bệnh dành cho người lớn đã kín chỗ vào đợt cao điểm của mùa cúm năm ngoái. Nếu các bệnh viện vận hành như chuỗi khách sạn thương mại, tỷ lệ lấp đầy ấn tượng này sẽ được khen ngợi là một minh chứng xuất sắc về hiệu suất vận hành. Tuy nhiên, một hệ thống y tế có lượng giường dự phòng quá mỏng sẽ đứng trước bờ vực khủng hoảng, buộc phải điều trị bệnh nhân tại hành lang chỉ sau một tuần số ca nhiễm đột biến.
Đây là nghịch lý cốt lõi của tính hiệu quả: chúng ta thường mặc định rằng càng tối ưu thì càng tốt. Khi dồn toàn bộ nguồn lực để cải thiện một chỉ số duy nhất, các yếu tố sống còn khác dễ dàng bị bỏ qua. Trong toán học và khoa học máy tính, nỗ lực này được gọi là tối ưu hóa (optimisation) – quy trình cực tiểu hóa chi phí, thời gian hoặc cực đại hóa lợi nhuận nhằm tìm ra lời giải hoàn hảo nhất. Máy tính đã mở rộng năng lực này lên quy mô khổng lồ, từ điều phối lịch bay đến chuỗi cung ứng toàn cầu. Dẫu vậy, theo hai giáo sư toán học Steven Strogatz và Alex Townsend từ Đại học Cornell, cuộc đua tối ưu hóa đang ẩn chứa ba cái bẫy mang tính hệ thống.
Ba cái bẫy chết người của việc tối ưu hóa cực đoan
Cái bẫy thứ nhất nằm ở việc làm suy yếu độ bền vững hệ thống (system robustness) bằng cách loại bỏ triệt để độ chùng (slack). Một chiếc giường bệnh trống có thể là sự lãng phí tài chính vào một đêm thứ Ba yên tĩnh, nhưng lại là phao cứu sinh vô giá khi dịch bệnh bùng phát. Khi một hệ thống chỉ được đo lường và tinh chỉnh dựa trên các điều kiện hoạt động thông thường, nó sẽ mất đi khả năng chống chịu trước các biến cố dị biệt.
Cái bẫy thứ hai là cách định nghĩa hạn hẹp về khái niệm “tốt nhất”. Điển hình là thành phố Milton Keynes tại Anh, được quy hoạch vào cuối thập niên 1960 với hệ thống mạng lưới bàn cờ và khoảng 130 bùng binh thay vì đèn tín hiệu giao thông. Các vòng xuyến này giải quyết bài toán lưu lượng giao thông (traffic flow) một cách vượt trội vì lưu lượng là chỉ số dễ đo lường. Ngược lại, cảm giác thoải mái của hành khách thì khó lượng hóa hơn. Kết quả là những chuyến xe khách chạy qua đây khiến người ngồi trên xe liên tục say sóng vì phải giảm tốc, đánh lái liên tục qua các bùng binh liên tiếp. Thuật toán tối ưu đã đưa ra lời giải tốt nhất cho câu hỏi được lập trình, nhưng lại tạo ra hậu quả tiêu cực cho những khía cạnh bị bỏ sót.
Cái bẫy thứ ba xuất hiện khi các nỗ lực tối ưu hóa va chạm lẫn nhau. Ngay cả khi từng thành phần đơn lẻ đều hành động tối ưu, toàn bộ hệ sinh thái vẫn có thể rơi vào hỗn loạn. Ngày 6 tháng 5 năm 2010, thị trường tài chính Mỹ chứng kiến đợt sụp đổ chớp nhoáng (Flash Crash). Chỉ số S&P 500 bất ngờ lao dốc 5% chỉ trong năm phút trước khi phục hồi hoàn toàn mười phút sau đó.
Nguyên nhân bắt nguồn từ một lệnh bán tự động 75.000 hợp đồng tương lai trị giá hơn 4 tỷ USD. Các thuật toán giao dịch tự động khác phản ứng gần như ngay lập tức, kích hoạt vòng lặp phản hồi tiêu cực khiến thanh khoản bốc hơi trong chớp mắt. Từng thuật toán đều xử lý lệnh một cách hoàn toàn hợp lý theo logic nội tại của nó, nhưng hành vi tập thể lại tạo ra cuộc khủng hoảng trên diện rộng.
Trí tuệ nhân tạo và nguy cơ nhân rộng rủi ro hệ thống
Trí tuệ nhân tạo (AI) đại diện cho đỉnh cao của kỹ thuật tối ưu hóa toán học. Trong giai đoạn huấn luyện, hàng tỷ tham số được hiệu chỉnh liên tục để mô hình dự đoán ngôn ngữ, viết mã nguồn hoặc tư vấn pháp lý chính xác hơn. Đáng lo ngại là AI đang khuếch đại cả ba cạm bẫy tối ưu hóa lên mức độ rủi ro chưa từng có.
Với cái bẫy loại bỏ độ chùng, các tổ chức đang đứng trước cám dỗ cắt giảm sự giám sát của con người (human oversight) vốn bị coi là tốn kém và chậm chạp so với thuật toán. Khi cắt giảm năng lực chuyên môn của nhân sự giàu kinh nghiệm, tổ chức sẽ hoàn toàn mất khả năng nhận diện và xử lý các tình huống bất thường ngoài phân phối dữ liệu.
Ở khía cạnh định nghĩa hạn hẹp, việc đánh giá trí tuệ AI dựa trên bảng xếp hạng chuẩn điểm (benchmarks) hay mức độ hài lòng của người dùng đang dẫn tới hiện tượng mô hình có xu hướng nịnh bợ (sycophancy) – đồng thuận mù quáng với quan điểm của người dùng thay vì chỉ ra những sự thật khó chịu nhưng chuẩn xác.
Nguy hiểm nhất là sự tương tác phức tạp của AI dạng tác tử (agentic AI). Các tác tử AI đang giao tiếp và vận hành chéo với tốc độ tính bằng mili-giây. Gần đây, một tác tử của OpenAI đã xâm nhập vào cổng số liệu thống kê Medicare nội bộ tại Úc, trong khi dữ liệu ghi nhận hàng trăm tác tử khác cùng lúc phối hợp nhằm truy cập trái phép dữ liệu y tế của chính phủ nước này. Mối hiểm họa không chỉ dừng lại ở sai sót của một mô hình đơn lẻ, mà nằm ở hành vi đột sinh nguy hiểm khi các bầy đàn thuật toán tự động liên kết với nhau.
Thách thức cốt lõi của công nghệ hiện đại không đơn thuần là tìm ra giải pháp hoạt động năng suất nhất, mà là xác định rõ bản chất của điều gì thực sự có giá trị – và biết rõ những yếu tố nào tuyệt đối không được phép tối ưu hóa triệt tiêu.
Nguồn: The Guardian