Để mang lại cho các nữ học giả tập trung vào AI và những người khác khoảng thời gian xứng đáng – và quá hạn – được chú ý, TechCrunch đã xuất bản một loạt cuộc phỏng vấn tập trung vào những phụ nữ xuất sắc đã đóng góp cho cuộc cách mạng AI. Chúng tôi sẽ xuất bản những tác phẩm này trong suốt cả năm khi thời kỳ bùng nổ AI tiếp tục diễn ra, nêu bật những tác phẩm quan trọng thường không được công nhận. Đọc thêm hồ sơ tại đây.
Miriam Vogel là Giám đốc điều hành của EqualAI, một tổ chức phi lợi nhuận được thành lập để giảm thiểu sự thiên vị vô thức trong AI và thúc đẩy quản trị AI có trách nhiệm. Cô cũng là chủ tịch của Ủy ban Cố vấn AI Quốc gia mới thành lập gần đây, được Quốc hội ủy nhiệm để cố vấn cho Tổng thống Joe Biden và Nhà Trắng về chính sách AI, đồng thời giảng dạy chính sách và luật công nghệ tại Trung tâm Luật Đại học Georgetown.
Vogel trước đây từng giữ chức phó tổng chưởng lý tại Bộ Tư pháp, cố vấn cho tổng chưởng lý và phó tổng chưởng lý về một loạt các vấn đề pháp lý, chính sách và hoạt động. Với tư cách là thành viên hội đồng quản trị tại Viện AI có trách nhiệm và cố vấn cấp cao của Trung tâm Dân chủ và Công nghệ, Vogel's đã tư vấn cho lãnh đạo Nhà Trắng về các sáng kiến từ phụ nữ, chính sách kinh tế, quy định và an toàn thực phẩm cho đến các vấn đề tư pháp hình sự.
Tóm lại, bạn bắt đầu với AI như thế nào? Điều gì thu hút bạn đến với lĩnh vực này?
Tôi bắt đầu sự nghiệp của mình khi làm việc trong chính phủ, ban đầu là thực tập sinh tại Thượng viện vào mùa hè trước năm lớp 11. Tôi mắc phải lỗi chính sách và dành nhiều mùa hè tiếp theo để làm việc ở Hill và sau đó là Nhà Trắng. Trọng tâm của tôi lúc đó là quyền công dân, đây không phải là con đường thông thường dẫn đến trí tuệ nhân tạo, nhưng nhìn lại, nó hoàn toàn có lý.
Sau khi tốt nghiệp trường luật, sự nghiệp của tôi thăng tiến từ một luật sư giải trí chuyên về sở hữu trí tuệ sang tham gia vào công việc về quyền công dân và tác động xã hội trong ngành hành pháp. Tôi có đặc quyền lãnh đạo lực lượng đặc nhiệm được trả lương ngang nhau khi còn phục vụ tại Nhà Trắng, và khi giữ chức phó tổng chưởng lý dưới quyền cựu phó tổng chưởng lý Sally Yates, tôi đã lãnh đạo việc thành lập và phát triển chương trình đào tạo về thành kiến ngầm cho cơ quan thực thi pháp luật liên bang. .
Tôi được yêu cầu lãnh đạo EqualAI dựa trên kinh nghiệm của tôi với tư cách là luật sư về công nghệ và kiến thức nền tảng của tôi về chính sách giải quyết các thành kiến và tác hại có hệ thống. Tôi bị tổ chức này thu hút vì tôi nhận ra AI đưa ra ranh giới tiếp theo về quyền công dân. Nếu không cảnh giác, những tiến bộ hàng thập kỷ có thể bị hủy hoại trong các dòng mã.
Tôi luôn hào hứng với những khả năng do sự đổi mới tạo ra và tôi vẫn tin rằng AI có thể mang đến những cơ hội mới tuyệt vời cho nhiều người dân hơn phát triển – nhưng chỉ khi chúng ta cẩn thận vào thời điểm quan trọng này để đảm bảo rằng nhiều người hơn có thể tham gia một cách có ý nghĩa vào quá trình phát triển của nó. sáng tạo và phát triển.
Làm cách nào để bạn vượt qua những thách thức của ngành công nghệ do nam giới thống trị và nói rộng ra là ngành AI do nam giới thống trị?
Về cơ bản, tôi tin rằng tất cả chúng ta đều có vai trò trong việc đảm bảo rằng AI của chúng ta hoạt động hiệu quả và mang lại lợi ích nhất có thể. Điều đó có nghĩa là đảm bảo chúng tôi làm nhiều hơn nữa để hỗ trợ tiếng nói của phụ nữ trong quá trình phát triển của nó (nhân tiện, những người này chiếm hơn 85% giao dịch mua hàng ở Hoa Kỳ và do đó đảm bảo lợi ích và sự an toàn của họ được kết hợp là một động thái kinh doanh thông minh), như cũng như tiếng nói của những nhóm dân cư ít được đại diện khác ở nhiều lứa tuổi, khu vực, sắc tộc và quốc tịch khác nhau nhưng không tham gia đầy đủ.
Khi nỗ lực hướng tới sự bình đẳng giới, chúng tôi phải đảm bảo cân nhắc nhiều tiếng nói và quan điểm hơn để phát triển AI phù hợp với tất cả người tiêu dùng — không chỉ AI phù hợp với các nhà phát triển.
Bạn sẽ đưa ra lời khuyên gì cho những phụ nữ muốn tham gia vào lĩnh vực AI?
Đầu tiên, không bao giờ là quá muộn để bắt đầu. Không bao giờ. Tôi khuyến khích tất cả ông bà thử sử dụng ChatGPT của OpenAI, Copilot của Microsoft hoặc Gemini của Google. Tất cả chúng ta đều cần phải hiểu biết về AI để phát triển trong mục tiêu trở thành nền kinh tế được hỗ trợ bởi AI. Và điều đó thật thú vị! Tất cả chúng ta đều có một vai trò để chơi. Cho dù bạn đang bắt đầu sự nghiệp trong lĩnh vực AI hay sử dụng AI để hỗ trợ công việc của mình, phụ nữ nên thử các công cụ AI, xem những công cụ này có thể và không thể làm gì, xem liệu chúng có phù hợp với họ hay không và nhìn chung trở nên hiểu biết về AI.
Thứ hai, việc phát triển AI có trách nhiệm đòi hỏi nhiều thứ hơn là chỉ các nhà khoa học máy tính có đạo đức. Nhiều người nghĩ rằng lĩnh vực AI đòi hỏi phải có bằng khoa học máy tính hoặc một số bằng cấp STEM khác trong khi trên thực tế, AI cần quan điểm và kiến thức chuyên môn của phụ nữ và nam giới thuộc mọi thành phần. Nhay vao! Tiếng nói và quan điểm của bạn là cần thiết. Sự tham gia của bạn là rất quan trọng.
Một số vấn đề cấp bách nhất mà AI phải đối mặt khi nó phát triển là gì?
Đầu tiên, chúng ta cần hiểu biết nhiều hơn về AI. Chúng tôi là “AI tích cực” tại EqualAI, có nghĩa là chúng tôi nghĩ rằng AI sẽ mang đến những cơ hội chưa từng có cho nền kinh tế của chúng ta và cải thiện cuộc sống hàng ngày của chúng ta – nhưng chỉ khi những cơ hội này có sẵn như nhau và mang lại lợi ích cho một bộ phận lớn dân số của chúng ta. Chúng ta cần lực lượng lao động hiện tại, thế hệ tiếp theo, ông bà của chúng ta — tất cả chúng ta – được trang bị kiến thức và kỹ năng để hưởng lợi từ AI.
Thứ hai, chúng ta phải phát triển các biện pháp và thước đo được tiêu chuẩn hóa để đánh giá hệ thống AI. Các đánh giá được tiêu chuẩn hóa sẽ rất quan trọng trong việc xây dựng niềm tin vào hệ thống AI của chúng tôi và cho phép người tiêu dùng, cơ quan quản lý và người dùng hạ nguồn hiểu được giới hạn của hệ thống AI mà họ đang tham gia và xác định xem hệ thống đó có xứng đáng với sự tin cậy của chúng tôi hay không. Hiểu được hệ thống được xây dựng để phục vụ ai và các trường hợp sử dụng được hình dung sẽ giúp chúng tôi trả lời câu hỏi chính: Điều này có thể thất bại đối với ai?
Một số vấn đề mà người dùng AI nên biết là gì?
Trí tuệ nhân tạo chỉ có thế: nhân tạo. Nó được con người xây dựng để “bắt chước” nhận thức của con người và trao quyền cho con người trong việc theo đuổi mục tiêu của họ. Chúng ta phải duy trì mức độ hoài nghi thích hợp và thực hiện thẩm định khi sử dụng công nghệ này để đảm bảo rằng chúng ta đang đặt niềm tin vào những hệ thống xứng đáng với sự tin tưởng của chúng ta. AI có thể tăng cường – nhưng không thay thế – loài người.
Chúng ta phải hiểu rõ thực tế rằng AI bao gồm hai thành phần chính: thuật toán (do con người tạo ra) và dữ liệu (phản ánh các cuộc hội thoại và tương tác của con người). Kết quả là AI phản ánh và điều chỉnh những khiếm khuyết của con người chúng ta. Những thành kiến và tác hại có thể xuất hiện trong suốt vòng đời của AI, cho dù thông qua các thuật toán do con người viết ra hay thông qua dữ liệu phản ánh nhanh về cuộc sống của con người. Tuy nhiên, mỗi điểm tiếp xúc của con người là một cơ hội để xác định và giảm thiểu tác hại tiềm tàng.
Bởi vì người ta chỉ có thể tưởng tượng trong phạm vi mà kinh nghiệm của chính họ cho phép và các chương trình AI bị giới hạn bởi các cấu trúc mà chúng được xây dựng, càng có nhiều người có quan điểm và kinh nghiệm đa dạng trong một nhóm thì họ càng có nhiều khả năng mắc phải những thành kiến và các mối lo ngại khác về an toàn. được nhúng trong AI của họ.
Cách tốt nhất để xây dựng AI một cách có trách nhiệm là gì?
Xây dựng AI xứng đáng với sự tin tưởng của chúng ta là tất cả trách nhiệm của chúng ta. Chúng ta không thể mong đợi người khác làm điều đó cho chúng ta. Chúng ta phải bắt đầu bằng cách đặt ba câu hỏi cơ bản: (1) Hệ thống AI này được xây dựng cho ai (2), các trường hợp sử dụng được hình dung là gì và (3) hệ thống này có thể thất bại đối với ai? Ngay cả với những câu hỏi này trong đầu, chắc chắn sẽ có những cạm bẫy. Để giảm thiểu những rủi ro này, nhà thiết kế, nhà phát triển và nhà triển khai phải tuân theo các phương pháp hay nhất.
Tại EqualAI, chúng tôi thúc đẩy “vệ sinh AI” tốt, bao gồm việc lập kế hoạch cho khuôn khổ của bạn và đảm bảo trách nhiệm giải trình, tiêu chuẩn hóa hoạt động kiểm tra, tài liệu và kiểm tra định kỳ. Gần đây, chúng tôi cũng đã xuất bản hướng dẫn thiết kế và vận hành khung quản trị AI có trách nhiệm, trong đó mô tả các giá trị, nguyên tắc và khuôn khổ để triển khai AI một cách có trách nhiệm tại một tổ chức. Bài viết đóng vai trò là nguồn tài nguyên cho các tổ chức thuộc mọi quy mô, lĩnh vực hoặc mức độ trưởng thành trong quá trình áp dụng, phát triển, sử dụng và triển khai các hệ thống AI với cam kết nội bộ và công khai thực hiện điều đó một cách có trách nhiệm.
Làm thế nào các nhà đầu tư có thể thúc đẩy AI có trách nhiệm tốt hơn?
Các nhà đầu tư có vai trò to lớn trong việc đảm bảo AI của chúng ta an toàn, hiệu quả và có trách nhiệm. Các nhà đầu tư có thể đảm bảo rằng các công ty đang tìm kiếm nguồn tài trợ nhận thức được và suy nghĩ về việc giảm thiểu những tác hại và trách nhiệm pháp lý tiềm ẩn trong hệ thống AI của họ. Thậm chí còn đặt câu hỏi: “Bạn đã thiết lập các phương pháp quản trị AI như thế nào?” là bước đầu tiên có ý nghĩa trong việc đảm bảo kết quả tốt hơn.
Nỗ lực này không chỉ tốt cho lợi ích chung; đó cũng là lợi ích tốt nhất của các nhà đầu tư, những người muốn đảm bảo rằng các công ty mà họ đầu tư vào và liên kết không có liên quan đến những tiêu đề xấu hoặc bị cản trở bởi các vụ kiện tụng. Niềm tin là một trong số ít yếu tố không thể thương lượng đối với sự thành công của công ty và cam kết quản trị AI có trách nhiệm là cách tốt nhất để xây dựng và duy trì niềm tin của công chúng. AI mạnh mẽ và đáng tin cậy mang lại ý nghĩa kinh doanh tốt.
