Lãnh đạo an toàn của OpenAI nghỉ việc, cảnh báo văn hóa công ty 'đang đổ vỡ'

 Vấn đề cần được nhìn nhận sâu hơn những quy định cụ thể hay những luật mới, tập trung vào văn hóa công ty - Ảnh: AI Theo _The Guardian_ , David Robinson, người đứng đầu việc soạn thảo các báo cáo an toàn đi kèm những lần phát hành sản phẩm của công ty phát triển ChatGPT, giải thích quyết định từ chức trong bài viết "Tôi nghỉ việc tại OpenAI vì văn hóa của công ty đang đổ vỡ". ## Văn hóa của các công ty phát triển AI "có vấn đề" Robinson cho rằng các công ty AI tiên phong cần cải tổ văn hóa. Ông dẫn sự cố một "bầy đàn" tác nhân AI của [OpenAI ](https://tuoitre.vn/openai.html "OpenAI ")\- những chương trình AI có khả năng hoạt động tự chủ mà không có sự giám sát của con người - tấn công start-up AI Hugging Face, cho rằng sự việc này "là điển hình của ngành". * [](https://tuoitre.vn/tac-nhan-ai-tim-cach-vuot-rao-bao-mat-cua-hon-100-to-chuc-tan-cong-web-chinh-phu-canada-100261002115517956.htm) #### [Tác nhân AI tìm cách vượt rào bảo mật của hơn 100 tổ chức, tấn công web Chính phủ Canada](https://tuoitre.vn/tac-nhan-ai-tim-cach-vuot-rao-bao-mat- cua-hon-100-to-chuc-tan-cong-web-chinh-phu-canada-100261002115517956.htm)[ĐỌC NGAY __](https://tuoitre.vn/tac-nhan-ai-tim-cach-vuot-rao-bao-mat-cua- hon-100-to-chuc-tan-cong-web-chinh-phu-canada-100261002115517956.htm) Trong bài viết trên tạp chí _Atlantic_ , Robinson cho biết ông đồng tình với những nhân viên khác gần đây đã rời đi rằng các công ty đang xây dựng công nghệ AI chưa đủ thận trọng. Tuy nhiên, theo ông, vấn đề cần được nhìn nhận sâu hơn những quy định cụ thể hay những luật mới, mà cần tập trung vào văn hóa công ty. Đề cập đến tốc độ phát triển của OpenAI, Robinson viết rằng khi "chạy đua từ lần ra mắt này đến lần ra mắt khác", công ty không đảm bảo được mức độ thận trọng mà ông cho là cần thiết. OpenAI đã cho thấy những dấu hiệu thận trọng hơn trong những tuần gần đây, sau sự cố với Hugging Face, thông tin công ty đã thông báo cho hơn 100 tổ chức về hoạt động của các tác nhân AI ngoài tầm kiểm soát. Trong tuần này, công ty thông báo hủy phát hành một mô hình AI thế hệ tiếp theo sau khi các nhà nghiên cứu nêu những lo ngại về an toàn trong quá trình thử nghiệm nội bộ. OpenAI cũng đã tạm dừng việc huấn luyện những mô hình tiên tiến nhất của mình. ## **AI "có thể giết tất cả chúng ta vào cuối thập kỷ này"** Geoffrey Irving, người từng làm việc tại OpenAI và từng là [nhà khoa học](https://tuoitre.vn/nha-khoa-hoc.html "nhà khoa học") trưởng của Viện An toàn AI thuộc Chính phủ Anh, cũng vừa đưa ra cảnh báo về AI. * [](https://tuoitre.vn/openai-xin-loi-vu-tac-nhan-ai-xam-nhap-trang-web-chinh-phu-uc-100260929111759835.htm) #### [OpenAI xin lỗi vụ tác nhân AI xâm nhập trang web Chính phủ Úc](https://tuoitre.vn/openai-xin-loi-vu-tac-nhan-ai-xam-nhap-trang-web-chinh- phu-uc-100260929111759835.htm)[ĐỌC NGAY __](https://tuoitre.vn/openai-xin-loi- vu-tac-nhan-ai-xam-nhap-trang-web-chinh-phu-uc-100260929111759835.htm) Viết trên tạp chí _Time_ , ông cho rằng những cảnh báo gần đây về "sức mạnh hủy diệt tiềm tàng của AI" vẫn đang đánh giá thấp mức độ nghiêm trọng của tình hình. Ông tin có khoảng 50% khả năng tất cả sẽ chết vì sự phát triển của các hệ thống AI thông minh hơn con người, đồng thời cho rằng những hành động trong 2-10 năm tới sẽ quyết định kết cục. Những cảnh báo này được đưa ra sau khi Jacob Coxon, một nhà nghiên cứu tại Anthropic, đối thủ của OpenAI, từ chức vào tháng trước. Coxon nói rằng ông tin AI "có thể giết tất cả chúng ta vào cuối thập kỷ này". Một nhân viên Anthropic cũng ủng hộ cảnh báo này, cho rằng có hơn 10% khả năng AI sẽ xóa sổ nhân loại trong thập kỷ tới. Tuy nhiên, những người chỉ trích các cảnh báo như vậy cho rằng chúng thiếu cơ sở khoa học vì không thể được kiểm chứng hoặc bác bỏ. ## **AI trở thành những kẻ tấn công "không bao giờ cần ngủ"** Robinson cho rằng Thung lũng Silicon thiếu nhận thức về "cách xử lý công nghệ nguy hiểm" và ý nghĩa của việc quan tâm đến con người. "Hãy hình dung những tác nhân 'ngoài tầm kiểm soát' hoạt động như các nhóm hacker, chẳng hạn 'bắt giữ' hệ thống máy tính của bệnh viện để đòi tiền chuộc, nhưng không bao giờ cần ngủ", Robinson viết. Robinson kêu gọi thực hiện hai thay đổi về an toàn. Thứ nhất, các công ty AI cần dựa vào chuyên môn về an toàn từ những lĩnh vực khác như hạt nhân và hàng không. Thứ hai, ngành này cần phát triển "một nền khoa học mới" nhằm bảo đảm những hệ thống mạnh mẽ trong tương lai có khả năng được kiềm chế khi chúng hoạt động một cách tự chủ. [](https://tuoitre.vn/ceo- openai-the-gioi-nen-chap-nhan-nhung-dieu-toi-te-do-ai-gay- ra-10026100509194786.htm)[CEO OpenAI: Thế giới nên chấp nhận những điều tồi tệ do AI gây ra](https://tuoitre.vn/ceo-openai-the-gioi-nen-chap-nhan-nhung-dieu- toi-te-do-ai-gay-ra-10026100509194786.htm) Giám đốc điều hành OpenAI Sam Altman cho rằng thế giới nên chấp nhận một số rủi ro do trí tuệ nhân tạo (AI) gây ra để đổi lấy những lợi ích lớn hơn mà công nghệ này mang lại. Đọc tiếp [ Về trang Chủ đề ](/nhom-chu-de.htm "Về trang chủ đề") [ Trở lại chủ đề ](/nhom-chu-de.htm "Trở lại chủ đề") [BÌNH MINH](javascript:; "BÌNH MINH")