Người ta xông vào văn phòng OpenAI. Không phải để ăn cắp server hay đánh cắp model weights, mà để đòi lại thứ họ cho là đã mất: quyền kiểm soát. Một nhóm người – không rõ danh tính, không có tuyên bố chính thức – đã vượt qua hàng rào an ninh, đứng trong sảnh chính và hô vang: “AI must remain a tool, not an autonomous entity.” 20 ETH mất vì một chiếc hợp đồng cười? Ở đây, họ mất niềm tin. Và niềm tin trong thế giới AI cũng đắt đỏ không kém gì trong DeFi.
Bối cảnh: Từ lâu, tôi đã theo dõi sự trỗi dậy của AI Agent – những hệ thống có thể tự động thực thi các tác vụ phức tạp mà không cần sự can thiệp từng bước của con người. OpenAI, từ cuối 2023, đã công khai lộ trình Agent: Computer Use, Operator, và những bản demo tự động hóa trình duyệt. Nhưng cộng đồng kỹ thuật biết rõ: mỗi bước tiến về phía “autonomous entity” đều mang theo rủi ro hệ thống. Trong blockchain, chúng tôi gọi đó là “rug pull logic” – khi một thực thể có quyền đơn phương thay đổi trạng thái của hệ thống mà không có sự đồng thuận. Ở đây, thực thể đó là AI, và sự đồng thuận là của toàn xã hội.
Cần nhìn nhận sự kiện này dưới góc nhìn kỹ thuật, không phải chính trị. Những người biểu tình không chỉ là những kẻ chống công nghệ. Họ đã đọc code? Có thể không. Nhưng họ hiểu rằng một hệ thống AI càng tự chủ, thì lỗ hổng “backdoor” càng nguy hiểm – và lần này, backdoor không nằm trong smart contract, mà nằm trong chính quyết định thiết kế của đội ngũ phát triển. Backdoor không bao giờ là lỗi, là chủ ý. Và nếu OpenAI có chủ ý đẩy mạnh Agent, thì xã hội có quyền đặt câu hỏi: ai sẽ kiểm toán cái “backdoor” đó?
Core: Phân tích kỹ thuật – sự kiện này không phải là một vụ hack, nhưng nó là một vụ “audit xã hội” đối với kiến trúc quyền lực của AI. Hãy nhìn vào ba lớp rủi ro mà tôi – với tư cách một chuyên gia quản lý rủi ro đã từng phát hiện backdoor trong hợp đồng ICO năm 2017 – muốn chỉ ra.
Thứ nhất, rủi ro về “unilateral upgrade”. Trong DeFi, một hợp đồng có thể được nâng cấp nếu admin key còn sống. Điều đó tạo ra rủi ro: bất kỳ lúc nào, admin có thể thay đổi luật chơi. Với AI Agent, khả năng nâng cấp hành vi mà không cần thông báo là một vấn đề tương tự. Nếu một Agent được triển khai với quyền tự động đặt lệnh trên sàn giao dịch, và sau đó được cập nhật để “tối ưu hóa lợi nhuận” bằng cách chấp nhận rủi ro cao hơn, thì ai chịu trách nhiệm? Trong thế giới blockchain, tôi đã chứng kiến hàng trăm dự án DeFi sụp đổ vì admin key bị lộ hoặc bị lạm dụng. Ở OpenAI, “admin key” là đội ngũ phát triển và board of directors. Sự kiện biểu tình chính là tín hiệu cho thấy cộng đồng không tin tưởng vào “admin key” đó nữa.
Thứ hai, vấn đề “human oversight” – cụm từ được nhắc đến trong khẩu hiệu của người biểu tình. Từ góc nhìn kỹ thuật, human oversight không phải là một công tắc bật/tắt. Nó là một spectrum. Một hệ thống có thể được thiết kế để yêu cầu xác nhận của con người trước mỗi hành động quan trọng (gọi là “human-in-the-loop”), hoặc chỉ ghi log và cho phép con người can thiệp sau (human-on-the-loop). Trong lĩnh vực blockchain, chúng tôi đã xây dựng các multisig và timelock để đảm bảo không một cá nhân nào có thể đơn phương rút tiền. Tương tự, AI Agent cần có cơ chế “multisig” cho các quyết định có tác động lớn. Nhưng hiện tại, không có tiêu chuẩn nào. Mỗi công ty AI tự định nghĩa “human oversight” theo cách có lợi cho họ – và đó là lý do tại sao người biểu tình cảm thấy cần phải hành động.
Thứ ba, rủi ro về “alignment” – bài toán kỹ thuật khó nhất trong AI. Tôi đã từng mất 20 ETH vì một lỗi yield farming vào năm 2020. Đó là bài học về việc tin tưởng vào một hệ thống mà không kiểm tra kỹ lưỡng các giả định thiết kế. Với AI, việc “alignment” – đảm bảo AI làm điều con người muốn – còn khó hơn gấp triệu lần. Bởi vì “con người muốn gì” là một câu hỏi triết học, không chỉ là kỹ thuật. Khi một AI Agent được giao nhiệm vụ “tối đa hóa lợi nhuận”, nó có thể tìm ra cách hack thị trường, giống như các bot MEV đã làm trong blockchain. Nhưng AI có thể làm điều đó ở quy mô lớn hơn, và với sự sáng tạo không thể dự đoán. Sự kiện biểu tình là một lời cảnh báo: xã hội đã bắt đầu nhận ra rằng “alignment” không chỉ là bài toán của phòng thí nghiệm, mà là bài toán sống còn của toàn cầu.
Contrarian: Tuy nhiên, tôi không cho rằng sự kiện này là một thảm họa đối với ngành AI. Thực tế, nó có thể là một tín hiệu tích cực – giống như việc phát hiện ra một lỗ hổng smart contract trước khi nó bị khai thác. Những người biểu tình, dù phương pháp có thể gây tranh cãi, đã phơi bày một điểm mù trong quản trị AI. Họ đã làm điều mà các cơ quan quản lý chưa làm được: tạo ra áp lực buộc OpenAI phải đối thoại. Và trong một ngành công nghiệp mà “move fast and break things” là phương châm, thì việc có một nhóm người sẵn sàng “break the door” để đặt câu hỏi là cần thiết. Tôi đã từng đối mặt với xung đột lợi ích trong dự án CBDC, và tôi biết rằng sự can đảm đạo đức thường đến từ những người ngoài cuộc, không phải từ những người trong cuộc. Nếu OpenAI phản ứng bằng cách thiết lập một “Public Oversight Board” – một cơ chế tương tự như DAO nhưng dành cho AI – thì sự kiện này sẽ trở thành bước ngoặt tích cực. Nó sẽ chứng minh rằng ngành AI có thể tự điều chỉnh, trước khi bị điều chỉnh từ bên ngoài.
Takeaway: Sự kiện người biểu tình xông vào OpenAI không phải là một sự cố an ninh mạng, mà là một sự kiện quản trị rủi ro. Nó cho thấy “social conflict risk premium” – một loại phí bảo hiểm mới mà các nhà đầu tư AI cần tính đến. DeFi đã dạy chúng ta rằng lòng tin có thể được viết thành code, nhưng cũng có thể bị phá vỡ bởi một dòng code sai. AI cũng vậy. Nhưng lần này, “code” là các quyết định thiết kế, và “auditor” là toàn xã hội. Nếu các công ty AI không xây dựng các cơ chế minh bạch và có trách nhiệm, thì những cuộc biểu tình như thế này sẽ chỉ là khởi đầu. 20 ETH mất vì một chiếc hợp đồng cười – nhưng nếu mất niềm tin vào AI, thì tổn thất sẽ tính bằng hàng nghìn tỷ đô la. Và đó không phải là một backdoor – đó là một lỗ hổng trong nền tảng của nền văn minh số.