Spotlights

Tiêu đề tương tự

Chuyên gia đạo đức AI, Tư vấn đạo đức AI, Cán bộ đạo đức AI, Nhà phân tích tiêu chuẩn đạo đức AI, Cố vấn chính sách và đạo đức AI, Chuyên gia quản trị AI, Giám đốc phát triển có trách nhiệm AI, Tư vấn ra quyết định đạo đức AI, Cán bộ tuân thủ và đạo đức AI, Nhà phát triển khung đạo đức AI

Mô tả công việc

Con người là những bó cảm xúc mâu thuẫn, thiếu sót. Chúng ta luôn đưa ra những quyết định sai lầm, thường làm tổn thương bản thân hoặc người khác trong quá trình này. Vậy điều gì sẽ xảy ra khi mọi người cố gắng xây dựng các chương trình thông minh nhân tạo để suy nghĩ và hành động giống như chúng ta? 

AI giống như một đứa trẻ; Nó hấp thụ mọi thứ chúng ta giao tiếp với nó, tốt, xấu và xấu. Phần lớn nếu không muốn nói là hầu hết dữ liệu chúng ta đưa vào các mô hình AI chứa đầy ý kiến, sở thích và định kiến của con người. Tuy nhiên, chúng tôi hy vọng đầu ra của AI - phản ứng của nó - sẽ khách quan, logic và không thiên vị. 

We want AI to be somehow better than us. How is that possible? Unlike a child, artificial intelligence isn’t truly sentient. It can’t (yet) really think for itself or recognize when it is doing something “wrong.” Case in point, Microsoft’s Bing AI, which went rogue and started “insulting people, lying to them, and even emotionally manipulating people.” 

Such problems are becoming widespread, but are addressed by a growing field of specialists called AI Ethicists. As Deloitte explains, “A key responsibility of an AI ethicist…would be to improve the engineering approach to AI by adding ethical, social, and political perspectives to the design, development, and deployment of AI systems. Other key responsibilities include advising on ethical AI practices, protecting against unintended consequences of misbehaving AI, and ensuring accountability for AI-related decisions and actions.”  

Các khía cạnh bổ ích của sự nghiệp
  • Giúp cải thiện hệ thống AI để phục vụ con người tốt hơn
  • Làm việc trong một ngành công nghiệp biến đổi có tiềm năng cải thiện cuộc sống theo nhiều cách
  • Mức lương béo bở và triển vọng công việc mạnh mẽ hiện tại
Muỗng bên trong
Trách nhiệm công việc

Lịch làm việc

Các nhà đạo đức học AI làm việc toàn thời gian, với thời gian làm thêm có thể cần thiết tùy thuộc vào mục tiêu và khung thời gian. Nhiệm vụ của họ được thực hiện trong nhà, mặc dù công việc có thể yêu cầu đi lại thường xuyên. 

Nhiệm vụ tiêu biểu

  • Tạo, đánh giá và triển khai các công cụ và thực hành AI có trách nhiệm (RAI)
  • Đánh giá sự sẵn sàng của tổ chức liên quan đến RAI
  • Làm việc với các nhóm để tích hợp các cân nhắc về đạo đức trong quá trình phát triển mô hình AI
  • Thực hiện phân tích đạo đức của các trường hợp sử dụng và hệ thống
  • Phân tích các mối quan tâm đạo đức khác nhau như thiên vị, quyền riêng tư và quyền tự chủ
  • Tiến hành nghiên cứu học thuật và viết các bài báo phác thảo các phát hiện
  • Phát triển các khuôn khổ đạo đức để phát triển và triển khai AI
  • Cung cấp hướng dẫn và giáo dục cho các nhà hoạch định chính sách và các bên liên quan về ý nghĩa đạo đức
  • Giúp phát triển các tiêu chuẩn và thực tiễn tốt nhất
  • Đảm bảo các mô hình AI hoạt động theo các nguyên tắc và giá trị đạo đức đã được thiết lập

Trách nhiệm bổ sung

  • Tư vấn các dự án RAI
  • Viết tài liệu đào tạo
  • Làm việc với các nhóm chức năng chéo để giải quyết vấn đề
  • Duy trì tài liệu kỹ lưỡng về các thủ tục
  • Luôn cập nhật những tiến bộ và xu hướng trong ngành
Các kỹ năng cần thiết trong công việc

Kỹ năng mềm

  • Khả năng thích ứng
  • Phân tích
  • Hợp tác
  • Kỹ năng giao tiếp
  • Sáng tạo
  • Tư duy phản biện
  • Định hướng chi tiết
  • Kỷ luật
  • Đồng cảm
  • Đạo đức
  • Độc lập
  • Tính toàn vẹn
  • Phương pháp
  • Tổ chức
  • Kiên nhẫn
  • Kỹ năng thuyết trình
  • Giải quyết vấn đề
  • Phán đoán đúng đắn
  • Làm việc theo nhóm
  • Quản lý thời gian
  • Kỹ năng viết

Kỹ năng kỹ thuật

  • Kiến thức về công nghệ AI, bao gồm thuật toán học máy, xử lý ngôn ngữ tự nhiên và thị giác máy tính
  • Phương pháp và chương trình phân tích dữ liệu
  • Kiến thức chung về mã hóa (chẳng hạn như Python hoặc R)
  • Quen thuộc với các luật và quy định về quyền riêng tư dữ liệu
  • Nguyên tắc an ninh mạng
  • Nguyên tắc thiết kế lấy con người làm trung tâm
  • Đánh giá rủi ro hệ thống AI  
Các loại hình tổ chức khác nhau
  • Doanh nghiệp tư nhân
  • Công ty nghiên cứu AI
  • Trường đại học
Kỳ vọng và hy sinh

Phạm vi công việc của một nhà đạo đức học AI có thể khá rộng. Họ chịu trách nhiệm tạo ra các khuôn khổ và hướng dẫn đạo đức và tiến hành các đánh giá kỹ lưỡng, khách quan để đảm bảo các mô hình AI hoạt động theo cách có đạo đức. Điều này liên quan đến nhiều sự hợp tác liên ngành, và đôi khi có những bất đồng hoặc thậm chí xung đột. 

As Dr. Paula Boddington of the University of West London notes, AI ethics “demands that we continue to question if our ethical decisions are right.” An AI Ethicist must maintain their integrity and stand firm while identifying what they believe are ethical risks, such as biased or discriminatory AI model behavior. They have to be honest and sometimes tell policymakers and stakeholders things they might not want to hear. 

Xu hướng hiện tại

AI such as ChatGPT and Google’s Bard have recently made waves with their impressive array of abilities. Indeed, many tech leaders are now sounding the alarm that things are advancing too fast, without sufficient guardrails to protect the public or businesses. 

Ví dụ, có những vấn đề liên quan đến bản quyền, vì ai "sở hữu" các tác phẩm của một chương trình thông minh nhân tạo? Các nhà đạo đức học AI cũng mất ngủ vì vô tình tiết lộ thông tin nhạy cảm, chẳng hạn như AI vô tình phát hành dữ liệu riêng tư, được bảo vệ. 

Many career fields are jeopardized because of the onslaught of sophisticated generative AI models, but this is only one of many fears being raised. There are also valid concerns about bizarre AI behavior, such as Bing’s AI going into “obsessive stalker” mode. Such harmful content is only the tip of the iceberg when it comes to what can go wrong with AI. There’s no shortage of nervous doomsday prophets who view AI as an existential threat to humanity, a la Skynet from The Terminator films! 

Những điều gì mọi người trong sự nghiệp này thích làm khi họ còn trẻ ...

AI Ethicists were probably keen on technology at an early age. They may have been interested in math, computer coding, tinkering with programming languages, or even hacking. At the same time, they could have enjoyed analytical problem-solving or reading about philosophy, social issues, or public policy.

Làm việc theo nhóm là một phần quan trọng của lĩnh vực nghề nghiệp này, nhưng các nhà đạo đức học AI đôi khi phải sẵn sàng đóng vai trò là tiếng nói duy nhất của bất đồng chính kiến khi có bất đồng. Công việc của họ là đảm bảo hành vi đạo đức của AI. Khả năng đứng lên cho những gì đúng đắn này có thể đã phát triển thông qua những trải nghiệm trong thời thơ ấu.  

Giáo dục và đào tạo cần thiết

Giáo dục cần thiết

  • Các nhà đạo đức học AI cần có bằng đại học, nhưng yêu cầu về trình độ công việc khác nhau. Không có bằng cấp cụ thể hoặc thậm chí cấp độ bằng cấp (tức là cử nhân, thạc sĩ, tiến sĩ) áp dụng cho mọi công việc của AI Ethicist
  • Các lựa chọn bằng cấp phổ biến là triết học, khoa học máy tính, luật, tâm lý học và khoa học xã hội
  • Có bằng cấp cao có thể hữu ích, nhưng có một nền tảng giáo dục rộng, có liên quan cũng rất quan trọng
  1. Ví dụ: một nhà tuyển dụng có thể muốn một ứng cử viên có bằng Cử nhân Khoa học Máy tính (tập trung vào AI) và Thạc sĩ Triết học (với chuyên môn về đạo đức ứng dụng hoặc triết học đạo đức)
  • Nhà tuyển dụng cũng tìm kiếm các ứng viên có kinh nghiệm làm việc thực tế liên quan đến phát triển AI, hoạch định chính sách và nghiên cứu. Một số cũng có thể muốn có kinh nghiệm xử lý ngôn ngữ tự nhiên, học máy và các mô hình ngôn ngữ lớn
  • Các chủ đề khóa học phổ biến bao gồm:
  1. AI và chính sách
  2. AI và xã hội
  3. Đạo đức và triết lý AI
  4. Tương tác giữa người và AI
  5. Các vấn đề pháp lý trong AI

Deloitte points out the difficulties in finding a candidate with all the necessary qualifications. “Trying to find one person with credible experience and knowledge in all these areas is practically impossible. Instead, companies should take a team approach to AI ethics, achieving the required multi-disciplinary capabilities and experience by learning how to seamlessly orchestrate and integrate insights from a variety of specialized experts.” 

Những điều cần tìm kiếm ở một trường đại học
  • Đầu tiên, hãy quyết định những gì bạn muốn học chuyên ngành. Triết học và khoa học máy tính là những lựa chọn phổ biến
  • Xem xét các dịch vụ khóa học của trường dành riêng cho Đạo đức AI
  • Hãy xem xét một chương trình cấp bằng kép hoặc kết hợp (cử nhân và thạc sĩ được thực hiện cùng nhau), nơi bạn có thể điều chỉnh giáo dục của mình để phù hợp nhất với các công việc Đạo đức AI
  • Kiểm tra số liệu thống kê vị trí việc làm của chương trình cho sinh viên tốt nghiệp
  • Xem xét chi phí học phí, giảm giá và các cơ hội học bổng địa phương (ngoài viện trợ liên bang)
  • Hãy suy nghĩ về lịch trình và sự linh hoạt của bạn khi quyết định đăng ký vào một chương trình trong khuôn viên trường, trực tuyến hay kết hợp! 
Hoạt động giải trí ở trường trung học và đại học
  • Sign up for computer science, programming, English, writing, debate, rhetoric, philosophy, business law, social sciences, and public policies classes
  • Tìm cách xây dựng kỹ năng làm việc nhóm, quản lý dự án, giải quyết vấn đề và giải quyết xung đột
  • Take online AI-related courses from Coursera, Udemy, Microsoft, DeepLearning.AI, and other sites
  • Có được kinh nghiệm thực tế thông qua các công việc bán thời gian liên quan đến NLP, ML, LLM và / hoặc lập trình
  • Bắt đầu tạo sơ yếu lý lịch của bạn và thêm vào nó khi bạn học hỏi và tích lũy kinh nghiệm làm việc
  • Xem lại các bài đăng công việc trước để xem các yêu cầu trung bình là gì. Các công việc của AI Ethicist có thể không phải tất cả đều có các yêu cầu giáo dục giống nhau
  • Request to do an informational interview with a working AI Ethicist. Ask about their educational path and what they might have done differently
  • Lập danh sách các địa chỉ liên hệ của bạn (bao gồm địa chỉ email hoặc số điện thoại), những người có thể đóng vai trò là tài liệu tham khảo công việc trong tương lai
  • Đọc sách và bài báo và xem video về những thách thức Đạo đức AI hiện tại
  • Join online forum debates and discussions. Make connections and build social capital within the AI community
  • Tham gia với các tổ chức chuyên nghiệp để học hỏi, chia sẻ, kết bạn và phát triển mạng lưới của bạn. Các tổ chức để xem xét tham gia có thể bao gồm: 
  1. Viện AI Now
  2. Hiệp hội chuyên gia AI
  3. Hiệp hội Ngôn ngữ học Tính toán
  4. Hiệp hội Máy tính
  5. Hiệp hội Công nghệ Người tiêu dùng
  6. Hiệp hội trí tuệ nhân tạo châu Âu
  7. IEEE
  8. Hiệp hội quốc tế về nhận dạng mẫu
  9. Viện nghiên cứu trí tuệ máy móc
  10. OpenAI
  11. Quan hệ đối tác về AI
  12. Hiệp hội các ngành công nghiệp robot
  13. Hiệp hội mạng nơ-ron quốc tế
Lộ trình điển hình
Lộ trình đạo đức học AI
Làm thế nào để đạt được công việc đầu tiên của bạn
  • Hoàn thành bằng cấp có liên quan, chẳng hạn như khoa học máy tính hoặc triết học, tập trung vào đạo đức AI
  • Nhận càng nhiều kinh nghiệm thực tế về NLP, AI, LLM, v.v. càng tốt trước khi đăng ký
  • Tăng cường sơ yếu lý lịch của bạn bằng cách tham gia các khóa học đặc biệt liên quan đến Đạo đức AI, nếu chương trình đại học của bạn không cung cấp đủ các lớp học có liên quan
  • Check out job portals such as Indeed, Simply Hired, Glassdoor, AI-Jobs.net, and The AI Job Board
  • Hãy chú ý đến các yêu cầu về trình độ học vấn và kinh nghiệm được liệt kê trên các bài đăng công việc và lưu ý các từ khóa để sử dụng lại trong sơ yếu lý lịch của bạn. Từ khóa có thể bao gồm:
  1. Kiểm toán AI
  2. Công nghệ AI
  3. Giải quyết xung đột
  4. Tư duy phản biện
  5. Cộng tác đa chức năng
  6. Quyền riêng tư và bảo mật dữ liệu
  7. Quyết định
  8. Công nghệ mới nổi
  9. Phân tích đạo đức
  10. Phát triển khung đạo đức
  11. Giải quyết vấn đề
  12. Quản lý dự án
  13. Tuân thủ quy định
  14. Nghiên cứu và đánh giá
  15. Đánh giá rủi ro
  16. Minh bạch và trách nhiệm giải trình
  • Check out online AI Ethicist resume templates and review potential job interview questions
  • Nói chuyện với trung tâm nghề nghiệp của trường bạn để được hỗ trợ viết sơ yếu lý lịch của bạn, thực hiện các cuộc phỏng vấn giả, học cách ăn mặc để phỏng vấn thành công và giúp tìm hội chợ việc làm
  • Hãy hỏi một nhà đạo đức AI đang làm việc để biết các mẹo tìm kiếm việc làm cá nhân của họ!
  • Nói chuyện với cố vấn học tập, giáo sư và người hướng dẫn của bạn để được tư vấn về việc khởi động sự nghiệp của bạn
  • Hãy cho mạng của bạn biết bạn đang tìm việc! Hầu hết các công việc vẫn được tìm thấy thông qua những người bạn biết, vì vậy hãy bắt đầu sử dụng một số vốn xã hội của bạn!
  • Relocate to where the jobs are. Per Versa Networks, the top states hiring the most in AI are: California, Texas, New York, Washington, Virginia, and Massachusetts
  • Xin phép liệt kê ai đó làm tài liệu tham khảo cá nhân trong đơn xin việc của bạn
  • Tạo một hồ sơ trên LinkedIn và bắt đầu viết bài về đạo đức AI!
Làm thế nào để leo lên thang
  • Understand the importance of proper AI model training, and the consequences to businesses when things go wrong. Google's parent company Alphabet lost $100 billion in market value practically overnight when its Bard chatbot debuted…and gave wrong answers.
  • Meanwhile, Bing had to reign in its AI after it developed a strange alter ego named “Sydney”
  • Thực hiện theo và cẩn thận ghi lại các thủ tục để đảm bảo tính nhất quán và chính xác
  • Hỏi nhà tuyển dụng của bạn những kỹ năng nào bạn có thể nâng cao để phục vụ nhu cầu của họ tốt hơn. Đây có thể là bất cứ điều gì từ bằng cấp cao hơn đến chứng chỉ hoặc chỉ là một vài khóa học bổ sung
  • Thể hiện các giá trị đạo đức cao, liêm chính và nhạy bén trong kinh doanh
  • Cộng tác hiệu quả với các đồng nghiệp nhưng đừng chịu áp lực từ bạn bè. Chỉ cần tập trung vào việc giải quyết vấn đề
  • Đào tạo các nhà đạo đức học mới kỹ lưỡng, nhưng cũng lắng nghe quan điểm của họ. Giữ một tâm trí cởi mở bởi vì có nhiều yếu tố chủ quan cho lĩnh vực này (sau tất cả, nó bắt nguồn từ triết học!)
  • Luôn gắn bó với các tổ chức chuyên nghiệp và cập nhật những đột phá. AI đang phát triển nhanh chóng và các nhóm đang làm việc trên khắp thế giới để thúc đẩy phong bì hơn nữa
  • Don’t just focus on today’s problems. Forecast growing or potential issues which could arise and plan for contingencies!

Một mối quan tâm đạo đức có lẽ xa vời nhưng vẫn còn giá trị là con người nên đối xử với AI như thế nào khi nó tiếp tục phát triển? Liệu AI cuối cùng có đạt đến điểm tự nhận thức? Nếu vậy, chúng ta sẽ xử lý nó cho phù hợp... Hay chỉ đơn giản là khai thác nó như một chương trình so với một sáng tạo có tri giác? 

Science fiction authors have long obsessed over such questions. From Isaac Asimov’s I, Robot novel to Star Wars’ discriminatory treatment of droids such as C-3PO, the outlook for AI life forms is often portrayed as bleak. Star Trek: The Next Generation explored this ethical frontier in great detail in the episode “The Measure Of A Man,” in which the ship’s Captain Picard had to “prove Data [a self-aware android] is legally a sentient being with rights and freedoms under Federation law…” 

Công cụ/Tài nguyên được đề xuất

Các trang web

Sách vở

  • AI Ethics (The MIT Press Essential Knowledge series), by Mark Coeckelbergh
  • Ethics of Artificial Intelligence, by S. Matthew Liao
  • Oxford Handbook of Ethics of AI, by Markus Dubber, Frank Pasquale, and Sunit Das
Kế hoạch B

Con đường để trở thành một nhà đạo đức học AI không rõ ràng như đối với hầu hết các ngành nghề. Và khi công nghệ AI tiếp tục phát triển, mọi thứ có thể thay đổi nhiều hơn nữa. Nếu bạn muốn có một công việc liên quan đến công nghệ nhưng muốn xem xét một số lựa chọn thay thế, hãy xem các tùy chọn dưới đây! 

  • Kỹ sư nhắc nhở AI
  • Kỹ sư dữ liệu lớn
  • Nhà phát triển Business Intelligence
  • Kỹ sư phần cứng máy tính
  • Lập trình viên máy tính
  • Nhà phân tích hệ thống máy tính
  • Kiến trúc sư cơ sở dữ liệu
  • Nhà khoa học dữ liệu
  • Chuyên viên Phân tích An toàn Thông tin
  • Nhà toán học
  • Kỹ sư học máy
  • Kỹ sư robot
  • Kỹ sư phần mềm
  • Kiến trúc sư phần mềm
  • Nhà phát triển web 

Nguồn cấp tin tức

Các khóa học và công cụ trực tuyến

SALARY AND JOB OUTLOOK
Choose a Subregion:

Annual Salary Expectations

$67K
$104K
$152K

New workers start around $67K. Median pay is $104K per year. Highly experienced workers can earn around $152K.

Source: State of California, Employment Development Department