Phụ nữ trong lĩnh vực AI: Rachel Coldicutt nghiên cứu cách công nghệ tác động đến xã hội

Phụ nữ trong lĩnh vực AI: Rachel Coldicutt nghiên cứu cách công nghệ tác động đến xã hội

Để mang lại cho các nữ học giả tập trung vào AI và những người khác khoảng thời gian xứng đáng – và quá hạn – được chú ý, TechCrunch đã xuất bản một loạt cuộc phỏng vấn tập trung vào những phụ nữ xuất sắc đã đóng góp cho cuộc cách mạng AI. Chúng tôi sẽ xuất bản những tác phẩm này trong suốt cả năm khi thời kỳ bùng nổ AI tiếp tục diễn ra, nêu bật những tác phẩm quan trọng thường không được công nhận. Đọc thêm hồ sơ tại đây.

Tâm điểm chú ý ngày nay: Rachel Coldicutt là người sáng lập Careful Industries, chuyên nghiên cứu về tác động xã hội của công nghệ đối với xã hội. Khách hàng bao gồm Salesforce và Học viện Kỹ thuật Hoàng gia. Trước Careful Industries, Coldicutt là Giám đốc điều hành của tổ chức nghiên cứu Doteveryone, công ty cũng tiến hành nghiên cứu về cách công nghệ tác động đến xã hội.

Trước Doteveryone, cô đã dành nhiều thập kỷ làm việc trong lĩnh vực chiến lược kỹ thuật số cho các công ty như BBC và Royal Opera House. Cô theo học tại Đại học Cambridge và nhận được danh hiệu OBE (Huân chương của Đế quốc Anh) cho công việc của mình trong lĩnh vực công nghệ kỹ thuật số.

Tóm lại, bạn bắt đầu với AI như thế nào? Điều gì thu hút bạn đến với lĩnh vực này?

Tôi bắt đầu làm việc trong lĩnh vực công nghệ vào giữa những năm 90. Công việc công nghệ phù hợp đầu tiên của tôi là làm việc trên Microsoft Encarta vào năm 1997 và trước đó, tôi đã giúp xây dựng cơ sở dữ liệu nội dung cho sách tham khảo và từ điển. Trong ba thập kỷ qua, tôi đã làm việc với tất cả các loại công nghệ mới và mới nổi, vì vậy thật khó để xác định chính xác thời điểm tôi “gia nhập AI” vì tôi đã sử dụng các quy trình và dữ liệu tự động để đưa ra quyết định, tạo ra trải nghiệm, và sản xuất tác phẩm nghệ thuật từ những năm 2000. Thay vào đó, tôi nghĩ câu hỏi có lẽ là, “AI trở thành tập hợp công nghệ mà mọi người muốn nói đến từ khi nào?” và tôi nghĩ câu trả lời có lẽ là vào khoảng năm 2014 khi DeepMind được Google mua lại – đó là thời điểm ở Anh khi AI vượt qua mọi thứ khác, mặc dù rất nhiều công nghệ cơ bản mà ngày nay chúng ta gọi là “AI” đã khá phổ biến. sử dụng chung.

Tôi bắt đầu làm việc trong lĩnh vực công nghệ một cách gần như tình cờ vào những năm 1990, và điều đã giữ tôi ở lại lĩnh vực này qua nhiều thay đổi là thực tế là nó chứa đầy những mâu thuẫn hấp dẫn: Tôi thích việc có thể trao quyền để học các kỹ năng mới và tạo ra mọi thứ, Tôi bị mê hoặc bởi những gì chúng ta có thể khám phá từ dữ liệu có cấu trúc và có thể vui vẻ dành phần đời còn lại của mình để quan sát và hiểu cách mọi người tạo ra và định hình các công nghệ mà chúng ta sử dụng.

Bạn tự hào nhất về công việc nào trong lĩnh vực AI?

Phần lớn công việc AI của tôi liên quan đến việc xây dựng chính sách và đánh giá tác động xã hội, làm việc với các cơ quan chính phủ, tổ chức từ thiện và tất cả các loại hình doanh nghiệp để giúp họ sử dụng AI và công nghệ liên quan theo những cách có chủ ý và đáng tin cậy.

Trở lại những năm 2010, tôi đã điều hành Doteveryone – một tổ chức tư vấn công nghệ có trách nhiệm – đã giúp thay đổi khuôn khổ cách các nhà hoạch định chính sách của Vương quốc Anh nghĩ về công nghệ mới nổi. Công việc của chúng tôi đã làm rõ rằng AI không phải là một tập hợp công nghệ không gây hậu quả mà là thứ có ý nghĩa phổ biến trong thế giới thực đối với con người và xã hội. Đặc biệt, tôi thực sự tự hào về công cụ Quét hậu quả miễn phí mà chúng tôi đã phát triển. Công cụ này hiện được các nhóm và doanh nghiệp trên toàn thế giới sử dụng, giúp họ dự đoán các tác động xã hội, môi trường và chính trị của những lựa chọn họ đưa ra khi giao hàng. sản phẩm và tính năng mới.

Gần đây hơn, Diễn đàn Xã hội và AI năm 2023 lại là một khoảnh khắc đáng tự hào khác. Trước thềm Diễn đàn An toàn AI nổi bật trong ngành của chính phủ Vương quốc Anh, nhóm của tôi tại Care Trouble đã nhanh chóng triệu tập và tuyển chọn một nhóm gồm 150 người từ khắp xã hội dân sự để cùng nhau chứng minh rằng AI có thể hoạt động được cho 8 tỷ người , không chỉ 8 tỷ phú.

Làm cách nào để bạn vượt qua những thách thức của ngành công nghệ do nam giới thống trị và nói rộng ra là ngành AI do nam giới thống trị?

Với tư cách là một người có tuổi so sánh lâu năm trong thế giới công nghệ, tôi cảm thấy như một số thành tựu mà chúng tôi đạt được trong việc đại diện giới tính trong lĩnh vực công nghệ đã bị mất đi trong 5 năm qua. Nghiên cứu từ Viện Turing cho thấy chưa đến 1% khoản đầu tư vào lĩnh vực AI là vào các công ty khởi nghiệp do phụ nữ lãnh đạo, trong khi phụ nữ vẫn chỉ chiếm 1/4 tổng lực lượng lao động công nghệ. Khi tôi tham dự các hội nghị và sự kiện về AI, sự phân biệt giới tính – đặc biệt là về việc ai có được nền tảng để chia sẻ công việc của họ – khiến tôi nhớ lại đầu những năm 2000, điều mà tôi thực sự buồn và sốc.

Tôi có thể điều chỉnh thái độ phân biệt giới tính của ngành công nghệ vì tôi có đặc quyền to lớn là có thể thành lập và điều hành tổ chức của riêng mình: Tôi đã dành phần lớn thời gian đầu sự nghiệp của mình để trải qua sự phân biệt giới tính và quấy rối tình dục hàng ngày – đối phó với điều đó cản trở việc thực hiện công việc tốt và đó là một chi phí đầu vào không cần thiết đối với nhiều phụ nữ. Thay vào đó, tôi ưu tiên thành lập một doanh nghiệp ủng hộ nữ quyền, nơi chúng tôi cùng nhau nỗ lực đạt được sự công bằng trong mọi việc mình làm và hy vọng của tôi là chúng tôi có thể chỉ ra những cách khác khả thi.

Bạn sẽ đưa ra lời khuyên gì cho những phụ nữ muốn tham gia vào lĩnh vực AI?

Đừng cảm thấy như bạn phải làm việc trong lĩnh vực “vấn đề của phụ nữ”, đừng bị cản trở bởi những lời cường điệu, hãy tìm kiếm đồng nghiệp và xây dựng tình bạn với những người khác để bạn có một mạng lưới hỗ trợ tích cực. Điều đã giúp tôi tiếp tục phấn đấu suốt những năm qua chính là mạng lưới bạn bè, đồng nghiệp cũ và đồng minh – chúng tôi luôn hỗ trợ lẫn nhau, không ngừng nói chuyện động viên và đôi khi là một bờ vai để tựa vào. Không có điều đó, nó có thể cảm thấy rất cô đơn; bạn thường xuyên trở thành người phụ nữ duy nhất trong phòng nên điều quan trọng là phải có một nơi nào đó an toàn để giải tỏa.

Ngay khi bạn có cơ hội, hãy tuyển dụng thật tốt. Đừng sao chép các cấu trúc mà bạn đã thấy hoặc cố thủ những kỳ vọng và chuẩn mực của một ngành công nghiệp tinh hoa, phân biệt giới tính. Thách thức hiện trạng mỗi khi bạn tuyển dụng và hỗ trợ những người mới tuyển dụng. Bằng cách đó, bạn có thể bắt đầu xây dựng một trạng thái bình thường mới, dù bạn ở đâu.

Và tìm kiếm công việc của một số phụ nữ vĩ đại đi đầu trong nghiên cứu và thực hành AI tuyệt vời: Bắt đầu bằng cách đọc tác phẩm của những người tiên phong như Abeba Birhane, Timnit Gebru và Joy Buolamwini, những người đã thực hiện nghiên cứu nền tảng đã định hình sự hiểu biết của chúng ta về cách AI thay đổi và tương tác với xã hội.

Một số vấn đề cấp bách nhất mà AI phải đối mặt khi nó phát triển là gì?

AI là một bộ tăng cường. Có thể có cảm giác như một số cách sử dụng là không thể tránh khỏi, nhưng với tư cách là xã hội, chúng ta cần được trao quyền để đưa ra những lựa chọn rõ ràng về những gì đáng để tăng cường. Hiện tại, mục đích chính của việc tăng cường sử dụng AI là tăng quyền lực và số dư ngân hàng của một số lượng tương đối nhỏ các CEO nam và có vẻ như điều đó khó xảy ra. [it] đang định hình một thế giới trong đó có nhiều người muốn sống. Tôi rất muốn thấy nhiều người hơn, đặc biệt là trong ngành và hoạch định chính sách, tham gia vào các câu hỏi về việc AI dân chủ và có trách nhiệm hơn trông như thế nào và liệu điều đó có khả thi hay không.

Các tác động về khí hậu của AI – việc sử dụng nước, năng lượng và các khoáng chất quan trọng – cũng như các tác động về sức khỏe và công bằng xã hội đối với người dân và cộng đồng bị ảnh hưởng bởi việc khai thác tài nguyên thiên nhiên cần phải được đặt lên hàng đầu trong danh sách phát triển có trách nhiệm. Thực tế là LLM nói riêng tiêu tốn nhiều năng lượng cho thấy mô hình hiện tại không phù hợp với mục đích; vào năm 2024, chúng ta cần sự đổi mới để bảo vệ và khôi phục thế giới tự nhiên, đồng thời các mô hình và cách làm việc khai thác cần phải bị loại bỏ.

Chúng ta cũng cần phải thực tế về tác động giám sát của một xã hội được dữ liệu hóa nhiều hơn và thực tế là – trong một thế giới ngày càng biến động – bất kỳ công nghệ có mục đích chung nào cũng có thể sẽ được sử dụng cho những nỗi kinh hoàng không thể tưởng tượng được trong chiến tranh. Mọi người làm việc trong lĩnh vực AI cần phải thực tế về mối liên hệ lịch sử lâu đời giữa R&D công nghệ với sự phát triển quân sự; chúng ta cần ủng hộ, hỗ trợ và yêu cầu sự đổi mới bắt đầu từ cộng đồng và được quản lý để chúng ta đạt được kết quả củng cố xã hội chứ không dẫn đến sự tàn phá gia tăng.

Một số vấn đề mà người dùng AI nên biết là gì?

Cũng như việc khai thác kinh tế và môi trường được tích hợp trong nhiều mô hình công nghệ và kinh doanh AI hiện tại, điều thực sự quan trọng là phải suy nghĩ về tác động hàng ngày của việc tăng cường sử dụng AI và điều đó có ý nghĩa gì đối với các tương tác hàng ngày của con người.

Mặc dù một số vấn đề được chú ý có nhiều rủi ro hiện hữu hơn, nhưng bạn nên để ý xem các công nghệ bạn sử dụng đang trợ giúp và cản trở bạn hàng ngày như thế nào: bạn có thể tắt và xử lý những hoạt động tự động hóa nào, những hoạt động nào mang lại hiệu quả. lợi ích thực sự và bạn có thể bỏ phiếu bằng đôi chân của mình với tư cách là người tiêu dùng ở đâu để chứng minh rằng bạn thực sự muốn tiếp tục nói chuyện với người thật chứ không phải bot? Chúng ta không cần phải giải quyết vấn đề tự động hóa kém chất lượng và chúng ta nên hợp tác với nhau để đạt được kết quả tốt hơn!

Cách tốt nhất để xây dựng AI một cách có trách nhiệm là gì?

AI có trách nhiệm bắt đầu với những lựa chọn chiến lược tốt — thay vì chỉ đưa ra một thuật toán cho nó và hy vọng điều tốt nhất, bạn có thể chủ ý về những gì cần tự động hóa và cách thức tự động hóa. Tôi đã nói về ý tưởng “Internet vừa đủ” trong vài năm nay và tôi cảm thấy đây là một ý tưởng thực sự hữu ích để hướng dẫn cách chúng ta nghĩ về việc xây dựng bất kỳ công nghệ mới nào. Thay vì luôn vượt qua các ranh giới, liệu chúng ta có thể xây dựng AI theo cách tối đa hóa lợi ích cho con người và hành tinh cũng như giảm thiểu tác hại không?

Chúng tôi đã phát triển một quy trình mạnh mẽ cho vấn đề này tại Careful Trouble, nơi chúng tôi làm việc với các hội đồng và nhóm cấp cao, bắt đầu bằng việc vạch ra cách AI có thể và không thể hỗ trợ tầm nhìn và giá trị của bạn; hiểu được vấn đề ở đâu quá phức tạp và hay thay đổi để tự động hóa có thể cải thiện và ở đâu nó sẽ tạo ra lợi ích; và cuối cùng là phát triển một khuôn khổ quản lý rủi ro tích cực. Phát triển có trách nhiệm không phải là việc áp dụng một bộ nguyên tắc một lần rồi thực hiện mà là một quá trình giám sát và giảm thiểu liên tục. Việc triển khai liên tục và thích ứng với xã hội có nghĩa là việc đảm bảo chất lượng không thể kết thúc sau khi sản phẩm được xuất xưởng; Với tư cách là nhà phát triển AI, chúng ta cần xây dựng năng lực lặp đi lặp lại, cảm nhận xã hội và coi việc phát triển và triển khai có trách nhiệm như một quá trình sống.

Làm thế nào các nhà đầu tư có thể thúc đẩy AI có trách nhiệm tốt hơn?

Bằng cách đầu tư kiên nhẫn hơn, ủng hộ những người sáng lập và nhóm đa dạng hơn, đồng thời không tìm kiếm lợi nhuận theo cấp số nhân.

Trả lời bằng tài khoản Facebook:

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *