Garry Tan, chủ tịch và giám đốc điều hành của Y Combinator, đã nói với đám đông tại Câu lạc bộ kinh tế Washington, DC trong tuần này rằng “có thể cần có quy định” đối với trí tuệ nhân tạo.
Tan đã nói chuyện với Teresa Carlson, thành viên hội đồng quản trị General Catalyst trong cuộc phỏng vấn trực tiếp, nơi anh ấy thảo luận mọi thứ từ cách truy cập Y Combinator đến AI, lưu ý rằng “không có thời điểm nào tốt hơn để làm việc trong lĩnh vực công nghệ đúng không?” Hiện nay.”
Tan cho biết ông “ủng hộ tổng thể” nỗ lực của Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) trong việc xây dựng khung giảm thiểu rủi ro GenAI và nói rằng “phần lớn EO của Chính quyền Biden có thể đang đi đúng hướng”.
Khuôn khổ của NIST đề xuất những điều như xác định rằng GenAI phải tuân thủ các luật hiện hành chi phối những vấn đề như quyền riêng tư và bản quyền dữ liệu; tiết lộ việc sử dụng GenAI cho người dùng cuối; thiết lập các quy định cấm GenAI tạo ra các tài liệu lạm dụng tình dục trẻ em, v.v. Lệnh điều hành của Biden bao gồm nhiều mệnh lệnh từ yêu cầu các công ty AI chia sẻ dữ liệu an toàn với chính phủ đến đảm bảo rằng các nhà phát triển nhỏ có quyền truy cập công bằng.
Nhưng Tan, giống như nhiều quỹ đầu tư mạo hiểm ở Valley, cảnh giác với những nỗ lực quản lý khác. Ông gọi các dự luật liên quan đến AI đang được thông qua các cơ quan lập pháp California và San Francisco là “rất đáng lo ngại”.
Giống như một dự luật ở California đang gây xôn xao dư luận là dự luật do Thượng nghị sĩ bang Scott Wiener đưa ra, cho phép tổng chưởng lý kiện các công ty AI nếu sản phẩm của họ có hại, Politico đưa tin.
“Cuộc thảo luận lớn về mặt chính sách hiện nay là phiên bản tốt của vấn đề này thực sự trông như thế nào?” Tân nói. “Chúng ta có thể trông cậy vào những người như Ian Hogarth, ở Anh, là những người chín chắn. Họ cũng quan tâm đến ý tưởng tập trung quyền lực này. Đồng thời, họ đang cố gắng tìm ra cách chúng tôi hỗ trợ sự đổi mới đồng thời giảm thiểu những tác hại tồi tệ nhất có thể xảy ra.”
Hogarth là cựu doanh nhân YC và chuyên gia AI, người đã được Vương quốc Anh mời vào lực lượng đặc nhiệm mô hình AI.
Tan nói: “Điều khiến tôi sợ là nếu chúng ta cố gắng giải quyết một mối lo ngại về khoa học viễn tưởng chưa có trong tay.
Về cách YC quản lý trách nhiệm, Tan nói rằng nếu tổ chức không đồng ý với sứ mệnh của một công ty khởi nghiệp hoặc sản phẩm đó sẽ làm gì cho xã hội, thì “YC sẽ không tài trợ cho nó”. Anh ấy lưu ý rằng có vài lần anh ấy đọc được thông tin về một công ty trên các phương tiện truyền thông đã nộp đơn đăng ký vào YC.
“Chúng tôi xem lại các ghi chú phỏng vấn và có vẻ như chúng tôi không nghĩ điều này có lợi cho xã hội. Và may mắn thay, chúng tôi đã không tài trợ cho nó,” ông nói.
Các nhà lãnh đạo trí tuệ nhân tạo tiếp tục gây rối
Hướng dẫn của Tan vẫn còn chỗ cho Y Combinator tạo ra nhiều công ty khởi nghiệp AI với tư cách là sinh viên tốt nghiệp nhóm. Như đồng nghiệp của tôi, Kyle Wiggers đã báo cáo, nhóm Mùa đông 2024 có 86 công ty khởi nghiệp AI, gần gấp đôi số lượng so với đợt Mùa đông 2023 và gần gấp ba con số so với Mùa đông 2021, theo danh mục khởi nghiệp chính thức của YC.
Và các sự kiện tin tức gần đây đang khiến mọi người tự hỏi liệu họ có thể tin tưởng những người bán sản phẩm AI sẽ là người xác định AI có trách nhiệm hay không. Tuần trước, TechCrunch đưa tin rằng OpenAI đang loại bỏ nhóm chịu trách nhiệm về AI của mình.
Sau đó, sự cố liên quan đến việc công ty sử dụng giọng nói giống nữ diễn viên Scarlet Johansson khi demo mẫu GPT-4o mới của mình. Hóa ra, cô ấy được hỏi về việc sử dụng giọng nói của mình và cô ấy đã từ chối. OpenAI kể từ đó đã loại bỏ giọng nói của Sky, mặc dù họ phủ nhận nó dựa trên Johansson. Điều đó và các vấn đề xung quanh khả năng của OpenAI trong việc lấy lại vốn chủ sở hữu của nhân viên, là một trong số những vấn đề khiến mọi người công khai đặt câu hỏi về sự thận trọng của Sam Altman.
Trong khi đó, Meta đã đưa ra tin tức về AI của riêng mình khi tuyên bố thành lập một hội đồng cố vấn AI chỉ có đàn ông da trắng tham gia, loại bỏ phụ nữ và người da màu, nhiều người trong số họ đóng vai trò quan trọng trong việc tạo ra và đổi mới hội đồng đó. ngành công nghiệp.
Tan đã không đề cập đến bất kỳ trường hợp nào trong số này. Giống như hầu hết các nhà đầu tư mạo hiểm ở Thung lũng Silicon, những gì anh ấy nhìn thấy là cơ hội cho các doanh nghiệp mới, quy mô lớn và sinh lợi.
Tan nói: “Chúng tôi thích nghĩ về các công ty khởi nghiệp như một mê cung ý tưởng. “Khi một công nghệ mới xuất hiện, giống như các mô hình ngôn ngữ lớn, toàn bộ mê cung ý tưởng sẽ bị rung chuyển. Bản thân ChatGPT có lẽ là một trong những sản phẩm tiêu dùng đạt được thành công nhanh nhất được phát hành trong thời gian gần đây. Và đó là tin tốt cho những người sáng lập.”
Trí tuệ nhân tạo của tương lai
Tan cũng cho biết San Francisco là trung tâm của phong trào AI. Ví dụ: đó là nơi Anthropic, do các cựu sinh viên YC khởi xướng, bắt đầu và OpenAI, một sản phẩm phụ của YC.
Tan cũng nói đùa rằng anh ấy sẽ không theo bước Altman, lưu ý rằng Altman “đã đảm nhiệm công việc của tôi vài năm trước nên không có kế hoạch thành lập phòng thí nghiệm AI”.
Một trong những câu chuyện thành công khác của YC là công ty khởi nghiệp công nghệ hợp pháp Casetext, được bán cho Thomson Reuters với giá 600 triệu đô la vào năm 2023. Tan tin rằng Casetext là một trong những công ty đầu tiên trên thế giới có quyền truy cập vào AI tổng quát và sau đó là một trong những lối thoát đầu tiên trong AI sáng tạo.
Khi nhìn về tương lai của AI, Tan nói rằng “rõ ràng, chúng ta phải thông minh về công nghệ này” vì nó liên quan đến các rủi ro xung quanh khủng bố sinh học và các cuộc tấn công mạng. Đồng thời, ông cho rằng nên có “một cách tiếp cận đo lường hơn nhiều”.
Ông cũng giả định rằng không có khả năng xảy ra mô hình “người thắng được tất cả”, mà thay vào đó là “khu vườn đáng kinh ngạc về sự lựa chọn tự do của người tiêu dùng và của những người sáng lập để có thể tạo ra thứ gì đó chạm tới hàng tỷ người”.
Ít nhất, đó là điều anh muốn thấy xảy ra. Đó sẽ là lợi ích tốt nhất của anh ấy và YC – rất nhiều công ty khởi nghiệp thành công trả lại rất nhiều tiền mặt cho các nhà đầu tư. Vì vậy, điều khiến Tan sợ nhất không phải là những AI độc ác mà là sự khan hiếm AI để lựa chọn.
“Chúng ta thực sự có thể thấy mình đang ở trong một tình huống thực sự độc quyền khác, nơi có sự tập trung cao độ chỉ vào một vài mẫu xe. Sau đó, bạn đang nói về việc khai thác tiền thuê và bạn có một thế giới mà tôi không muốn sống trong đó.”
