Trước hội nghị thượng đỉnh về an toàn AI khai mạc tại Seoul, Hàn Quốc vào cuối tuần này, nước đồng chủ nhà là Vương quốc Anh đang mở rộng nỗ lực của mình trong lĩnh vực này. Viện An toàn AI – một cơ quan của Vương quốc Anh được thành lập vào tháng 11 năm 2023 với mục tiêu đầy tham vọng là đánh giá và giải quyết rủi ro trong nền tảng AI – cho biết họ sẽ mở địa điểm thứ hai… tại San Francisco.
Ý tưởng là để tiến gần hơn đến nơi hiện đang là trung tâm của sự phát triển AI, với Bay Area là ngôi nhà của OpenAI, Anthropic, Google và Meta, cùng những nơi khác xây dựng công nghệ AI nền tảng.
Các mô hình cơ bản là nền tảng của các dịch vụ AI tổng hợp và các ứng dụng khác, và điều thú vị là mặc dù Vương quốc Anh đã ký Biên bản ghi nhớ với Hoa Kỳ để hai nước hợp tác về các sáng kiến an toàn AI, Vương quốc Anh vẫn chọn đầu tư xây dựng một mô hình cơ bản. sự hiện diện trực tiếp của mình ở Mỹ để giải quyết vấn đề.
Michelle Donelan, Bộ trưởng Khoa học, Đổi mới và Công nghệ Vương quốc Anh, cho biết trong một cuộc phỏng vấn với TechCrunch: “Bằng cách đưa mọi người đến San Francisco, điều đó sẽ cho phép họ tiếp cận trụ sở chính của nhiều công ty AI này”. “Một số người trong số họ có trụ sở tại Vương quốc Anh, nhưng chúng tôi nghĩ rằng sẽ rất hữu ích nếu có cơ sở ở đó và tiếp cận với nguồn nhân tài bổ sung cũng như có thể làm việc hợp tác và chung tay nhiều hơn. với Hoa Kỳ.”
Một phần lý do là, đối với Vương quốc Anh, việc đến gần tâm chấn đó không chỉ hữu ích để hiểu những gì đang được xây dựng mà còn vì nó giúp Vương quốc Anh có nhiều khả năng hiển thị hơn với các công ty này – điều quan trọng là vì AI và công nghệ nói chung được nhìn nhận bởi mọi người. Vương quốc Anh như một cơ hội lớn để tăng trưởng kinh tế và đầu tư.
Và với diễn biến mới nhất tại OpenAI xung quanh nhóm Superalignment của nó, có vẻ như đây là thời điểm đặc biệt kịp thời để thiết lập sự hiện diện ở đó.
Viện An toàn AI, ra mắt vào tháng 11 năm 2023, hiện có quy mô tương đối khiêm tốn. Tổ chức ngày nay chỉ có 32 người làm việc tại đó, một David thực sự xứng đáng với gã khổng lồ công nghệ AI, khi bạn xem xét khoản đầu tư hàng tỷ đô la đang đổ vào các công ty xây dựng mô hình AI và do đó, động lực kinh tế của chính họ để có được công nghệ của họ ra khỏi cửa và đến tay những người dùng trả tiền.
Một trong những phát triển đáng chú ý nhất của Viện An toàn AI là việc phát hành Thanh tra vào đầu tháng này, bộ công cụ đầu tiên để kiểm tra tính an toàn của các mô hình AI cơ bản.
Donelan hôm nay gọi việc phát hành đó là nỗ lực “giai đoạn một”. Nó không chỉ tỏ ra là thách thức đối với các mô hình chuẩn mà hiện tại, sự tham gia còn là một sự sắp xếp chọn tham gia và không nhất quán. Như một nguồn cấp cao của cơ quan quản lý Vương quốc Anh đã chỉ ra, các công ty không có nghĩa vụ pháp lý nào phải kiểm tra mô hình của họ vào thời điểm này; và không phải công ty nào cũng sẵn sàng kiểm tra các mô hình trước khi phát hành. Điều đó có thể có nghĩa là, trong trường hợp có thể xác định được rủi ro, con ngựa có thể đã bỏ chạy.
Donelan cho biết Viện An toàn AI vẫn đang phát triển cách tốt nhất để hợp tác với các công ty AI nhằm đánh giá họ. Bà nói: “Bản thân quy trình đánh giá của chúng tôi là một ngành khoa học mới nổi. “Vì vậy, với mỗi lần đánh giá, chúng tôi sẽ phát triển quy trình và hoàn thiện nó hơn nữa.”
Donelan nói rằng một mục tiêu ở Seoul là trình bày Kiểm tra cho các nhà quản lý triệu tập tại hội nghị thượng đỉnh, nhằm mục đích thuyết phục họ áp dụng nó.
“Bây giờ chúng tôi có một hệ thống đánh giá. Giai đoạn hai cũng cần hướng tới việc làm cho AI trở nên an toàn trên toàn xã hội,” cô nói.
Về lâu dài, Donelan tin rằng Vương quốc Anh sẽ xây dựng thêm luật về AI, mặc dù lặp lại những gì Thủ tướng Rishi Sunak đã nói về chủ đề này, nước này sẽ không làm như vậy cho đến khi hiểu rõ hơn về phạm vi rủi ro của AI.
Bà nói: “Chúng tôi không tin vào việc lập pháp trước khi chúng tôi nắm bắt và hiểu biết đầy đủ,” đồng thời lưu ý rằng báo cáo an toàn AI quốc tế gần đây do viện công bố chủ yếu tập trung vào việc cố gắng có được bức tranh toàn diện về nghiên cứu cho đến nay, “nhấn mạnh rằng còn thiếu những khoảng trống lớn và chúng ta cần khuyến khích và khuyến khích nhiều nghiên cứu hơn trên toàn cầu.
“Và việc lập pháp cũng mất khoảng một năm ở Vương quốc Anh. Và nếu chúng ta mới bắt đầu xây dựng luật khi chúng ta bắt đầu thay vì [organizing] Hội nghị thượng đỉnh an toàn AI [held in November last year]bây giờ chúng tôi vẫn đang lập pháp và chúng tôi thực sự sẽ không có bất cứ điều gì để chứng minh điều đó.”
Ian Hogarth, chủ tịch của Viện cho biết: “Kể từ ngày đầu thành lập Viện, chúng tôi đã hiểu rõ tầm quan trọng của việc áp dụng cách tiếp cận quốc tế đối với an toàn AI, chia sẻ nghiên cứu và hợp tác với các quốc gia khác để thử nghiệm các mô hình và dự đoán rủi ro của AI tiên phong”. Viện An toàn AI. “Hôm nay đánh dấu một thời điểm quan trọng cho phép chúng tôi thúc đẩy hơn nữa chương trình nghị sự này và chúng tôi tự hào mở rộng quy mô hoạt động của mình trong một khu vực có nhiều tài năng công nghệ, bổ sung thêm kiến thức chuyên môn đáng kinh ngạc mà nhân viên của chúng tôi ở London đã mang lại ngay từ đầu.”
