Nhà đạo đức học AI

Biểu tượng
Biểu tượng Trình xây dựng
Biểu tượng
Biểu tượng Bảng tạm
Biểu tượng
Biểu tượng Câu đố
Người xây dựng
Ban tổ chức
Người giải quyết vấn đề
Máy tính & Công nghệ thông tin
SpotlightsFactsGiáo dụcHạ cánh nguồncấp tin tức việc làm

Spotlights

Tiêu đề tương tự

Chuyên gia đạo đức AI, Tư vấn đạo đức AI, Cán bộ đạo đức AI, Nhà phân tích tiêu chuẩn đạo đức AI, Cố vấn chính sách và đạo đức AI, Chuyên gia quản trị AI, Giám đốc phát triển có trách nhiệm AI, Tư vấn ra quyết định đạo đức AI, Cán bộ tuân thủ và đạo đức AI, Nhà phát triển khung đạo đức AI

Mô tả công việc

Con người là những bó cảm xúc mâu thuẫn, thiếu sót. Chúng ta luôn đưa ra những quyết định sai lầm, thường làm tổn thương bản thân hoặc người khác trong quá trình này. Vậy điều gì sẽ xảy ra khi mọi người cố gắng xây dựng các chương trình thông minh nhân tạo để suy nghĩ và hành động giống như chúng ta? 

AI giống như một đứa trẻ; Nó hấp thụ mọi thứ chúng ta giao tiếp với nó, tốt, xấu và xấu. Phần lớn nếu không muốn nói là hầu hết dữ liệu chúng ta đưa vào các mô hình AI chứa đầy ý kiến, sở thích và định kiến của con người. Tuy nhiên, chúng tôi hy vọng đầu ra của AI - phản ứng của nó - sẽ khách quan, logic và không thiên vị. 

Chúng tôi muốn AI bằng cách nào đó tốt hơn chúng tôi. Làm sao có thể? Không giống như một đứa trẻ, trí tuệ nhân tạo không thực sự có tri giác. Nó không thể (chưa) thực sự tự suy nghĩ hoặc nhận ra khi nào nó đang làm điều gì đó "sai". Trường hợp điển hình, Bing AI của Microsoft, đã trở nên bất hảo và bắt đầu "xúc phạm mọi người, nói dối họ và thậm chí thao túng cảm xúc của mọi người".

Những vấn đề như vậy đang trở nên phổ biến, nhưng được giải quyết bởi một lĩnh vực ngày càng tăng của các chuyên gia được gọi là Nhà đạo đức học AI. Như Deloitte giải thích, "Trách nhiệm chính của một nhà đạo đức học AI... sẽ là cải thiện cách tiếp cận kỹ thuật cho AI bằng cách thêm các quan điểm đạo đức, xã hội và chính trị vào việc thiết kế, phát triển và triển khai các hệ thống AI. Các trách nhiệm chính khác bao gồm tư vấn về thực hành AI có đạo đức, bảo vệ chống lại những hậu quả không mong muốn của AI hành vi sai trái và đảm bảo trách nhiệm giải trình cho các quyết định và hành động liên quan đến AI.

Các khía cạnh bổ ích của sự nghiệp
  • Giúp cải thiện hệ thống AI để phục vụ con người tốt hơn 
  • Làm việc trong một ngành công nghiệp biến đổi có tiềm năng cải thiện cuộc sống theo nhiều cách
  • Mức lương béo bở và triển vọng công việc mạnh mẽ hiện tại
Muỗng bên trong
Trách nhiệm công việc

Lịch làm việc

Các nhà đạo đức học AI làm việc toàn thời gian, với thời gian làm thêm có thể cần thiết tùy thuộc vào mục tiêu và khung thời gian. Nhiệm vụ của họ được thực hiện trong nhà, mặc dù công việc có thể yêu cầu đi lại thường xuyên. 

Nhiệm vụ tiêu biểu

  • Tạo, đánh giá và triển khai các công cụ và thực hành AI có trách nhiệm (RAI)
  • Đánh giá sự sẵn sàng của tổ chức liên quan đến RAI
  • Làm việc với các nhóm để tích hợp các cân nhắc về đạo đức trong quá trình phát triển mô hình AI
  • Thực hiện phân tích đạo đức của các trường hợp sử dụng và hệ thống 
  • Phân tích các mối quan tâm đạo đức khác nhau như thiên vị, quyền riêng tư và quyền tự chủ
  • Tiến hành nghiên cứu học thuật và viết các bài báo phác thảo các phát hiện 
  • Phát triển các khuôn khổ đạo đức để phát triển và triển khai AI
  • Cung cấp hướng dẫn và giáo dục cho các nhà hoạch định chính sách và các bên liên quan về ý nghĩa đạo đức
  • Giúp phát triển các tiêu chuẩn và thực tiễn tốt nhất
  • Đảm bảo các mô hình AI hoạt động theo các nguyên tắc và giá trị đạo đức đã được thiết lập

Trách nhiệm bổ sung

  • Tư vấn các dự án RAI
  • Viết tài liệu đào tạo 
  • Làm việc với các nhóm chức năng chéo để giải quyết vấn đề
  • Duy trì tài liệu kỹ lưỡng về các thủ tục
  • Luôn cập nhật những tiến bộ và xu hướng trong ngành
Các kỹ năng cần thiết trong công việc

Kỹ năng mềm

  • Khả năng thích ứng 
  • Phân tích
  • Hợp tác
  • Kỹ năng giao tiếp
  • Sáng tạo
  • Tư duy phản biện
  • Định hướng chi tiết
  • Kỷ luật
  • Đồng cảm
  • Đạo đức
  • Độc lập
  • Tính toàn vẹn
  • Phương pháp
  • Tổ chức
  • Kiên nhẫn
  • Kỹ năng thuyết trình 
  • Giải quyết vấn đề
  • Phán đoán đúng đắn 
  • Làm việc theo nhóm
  • Quản lý thời gian 
  • Kỹ năng viết

Kỹ năng kỹ thuật

  • Kiến thức về công nghệ AI, bao gồm thuật toán học máy, xử lý ngôn ngữ tự nhiên và thị giác máy tính
  • Phương pháp và chương trình phân tích dữ liệu
  • Kiến thức chung về mã hóa (chẳng hạn như Python hoặc R)
  • Quen thuộc với các luật và quy định về quyền riêng tư dữ liệu
  • Nguyên tắc an ninh mạng
  • Nguyên tắc thiết kế lấy con người làm trung tâm
  • Đánh giá rủi ro hệ thống AI  
Các loại hình tổ chức khác nhau
  • Doanh nghiệp tư nhân
  • Công ty nghiên cứu AI 
  • Trường đại học
Kỳ vọng và hy sinh

Phạm vi công việc của một nhà đạo đức học AI có thể khá rộng. Họ chịu trách nhiệm tạo ra các khuôn khổ và hướng dẫn đạo đức và tiến hành các đánh giá kỹ lưỡng, khách quan để đảm bảo các mô hình AI hoạt động theo cách có đạo đức. Điều này liên quan đến nhiều sự hợp tác liên ngành, và đôi khi có những bất đồng hoặc thậm chí xung đột. 

Như Tiến sĩ Paula Boddington của Đại học West London lưu ý, đạo đức AI "đòi hỏi chúng ta phải tiếp tục đặt câu hỏi liệu các quyết định đạo đức của chúng ta có đúng hay không". Một nhà đạo đức học AI phải duy trì tính toàn vẹn của họ và đứng vững trong khi xác định những gì họ tin là rủi ro đạo đức, chẳng hạn như hành vi mô hình AI thiên vị hoặc phân biệt đối xử. Họ phải trung thực và đôi khi nói với các nhà hoạch định chính sách và các bên liên quan những điều họ có thể không muốn nghe.

Xu hướng hiện tại

AI như ChatGPT và Bard của Google gần đây đã tạo ra làn sóng với hàng loạt khả năng ấn tượng của họ. Thật vậy, nhiều nhà lãnh đạo công nghệ hiện đang gióng lên hồi chuông cảnh báo rằng mọi thứ đang tiến triển quá nhanh, không có đủ lan can để bảo vệ công chúng hoặc doanh nghiệp.

Ví dụ, có những vấn đề liên quan đến bản quyền, vì ai "sở hữu" các tác phẩm của một chương trình thông minh nhân tạo? Các nhà đạo đức học AI cũng mất ngủ vì vô tình tiết lộ thông tin nhạy cảm, chẳng hạn như AI vô tình phát hành dữ liệu riêng tư, được bảo vệ. 

Nhiều lĩnh vực nghề nghiệp bị đe dọa vì sự tấn công của các mô hình AI tạo ra tinh vi, nhưng đây chỉ là một trong nhiều nỗi sợ hãi được nêu ra. Cũng có những lo ngại hợp lệ về hành vi AI kỳ quái, chẳng hạn như AI của Bing chuyển sang chế độ "kẻ theo dõi ám ảnh". Nội dung độc hại như vậy chỉ là phần nổi của tảng băng trôi khi nói đến những gì có thể xảy ra với AI. Không thiếu các nhà tiên tri ngày tận thế lo lắng, những người coi AI là mối đe dọa hiện hữu đối với nhân loại, một Skynet từ các bộ phim Kẻ hủy diệt!

Những điều gì mọi người trong sự nghiệp này thích làm khi họ còn trẻ ...

Các nhà đạo đức học AI có lẽ đã quan tâm đến công nghệ từ khi còn nhỏ. Họ có thể đã quan tâm đến toán học, mã hóa máy tính, mày mò ngôn ngữ lập trình hoặc thậm chí hack. Đồng thời, họ có thể thích giải quyết vấn đề phân tích hoặc đọc về triết học, các vấn đề xã hội hoặc chính sách công.

Làm việc theo nhóm là một phần quan trọng của lĩnh vực nghề nghiệp này, nhưng các nhà đạo đức học AI đôi khi phải sẵn sàng đóng vai trò là tiếng nói duy nhất của bất đồng chính kiến khi có bất đồng. Công việc của họ là đảm bảo hành vi đạo đức của AI. Khả năng đứng lên cho những gì đúng đắn này có thể đã phát triển thông qua những trải nghiệm trong thời thơ ấu.   

Giáo dục và đào tạo cần thiết

Giáo dục cần thiết

  • Các nhà đạo đức học AI cần có bằng đại học, nhưng yêu cầu về trình độ công việc khác nhau. Không có bằng cấp cụ thể hoặc thậm chí cấp độ bằng cấp (tức là cử nhân, thạc sĩ, tiến sĩ) áp dụng cho mọi công việc của AI Ethicist
  • Các lựa chọn bằng cấp phổ biến là triết học, khoa học máy tính, luật, tâm lý học và khoa học xã hội
  • Có bằng cấp cao có thể hữu ích, nhưng có một nền tảng giáo dục rộng, có liên quan cũng rất quan trọng
    • Ví dụ: một nhà tuyển dụng có thể muốn một ứng cử viên có bằng Cử nhân Khoa học Máy tính (tập trung vào AI) và Thạc sĩ Triết học (với chuyên môn về đạo đức ứng dụng hoặc triết học đạo đức)
  • Nhà tuyển dụng cũng tìm kiếm các ứng viên có kinh nghiệm làm việc thực tế liên quan đến phát triển AI, hoạch định chính sách và nghiên cứu. Một số cũng có thể muốn có kinh nghiệm xử lý ngôn ngữ tự nhiên, học máy và các mô hình ngôn ngữ lớn 
  • Các chủ đề khóa học phổ biến bao gồm:
    • AI và chính sách 
    • AI và xã hội 
    • Đạo đức và triết lý AI
    • Tương tác giữa người và AI
    • Các vấn đề pháp lý trong AI 
  • Sinh viên cũng có thể tự học các ngôn ngữ lập trình như Python hoặc thông qua các lớp học
  • Class Central cung cấp thông tin chi tiết về một loạt các khóa học trực tuyến Đạo đức AI miễn phí
  • Ngoài ra, hãy xem các khóa học và dịch vụ chứng chỉ từ Coursera, chẳng hạn như Trí tuệ nhân tạo: Chuyên ngành tổng quan

Deloitte chỉ ra những khó khăn trong việc tìm kiếm một ứng cử viên với tất cả các bằng cấp cần thiết. "Cố gắng tìm một người có kinh nghiệm và kiến thức đáng tin cậy trong tất cả các lĩnh vực này thực tế là không thể. Thay vào đó, các công ty nên thực hiện một cách tiếp cận nhóm đối với đạo đức AI, đạt được các khả năng và kinh nghiệm đa ngành cần thiết bằng cách học cách phối hợp và tích hợp liền mạch những hiểu biết sâu sắc từ nhiều chuyên gia chuyên ngành.

Những điều cần tìm kiếm ở một trường đại học
  • Đầu tiên, hãy quyết định những gì bạn muốn học chuyên ngành. Triết học và khoa học máy tính là những lựa chọn phổ biến
  • Xem xét các dịch vụ khóa học của trường dành riêng cho Đạo đức AI
  • Hãy xem xét một chương trình cấp bằng kép hoặc kết hợp (cử nhân và thạc sĩ được thực hiện cùng nhau), nơi bạn có thể điều chỉnh giáo dục của mình để phù hợp nhất với các công việc Đạo đức AI 
  • Kiểm tra số liệu thống kê vị trí việc làm của chương trình cho sinh viên tốt nghiệp
  • Xem xét chi phí học phí, giảm giá và các cơ hội học bổng địa phương (ngoài viện trợ liên bang)
  • Hãy suy nghĩ về lịch trình và sự linh hoạt của bạn khi quyết định đăng ký vào một chương trình trong khuôn viên trường, trực tuyến hay kết hợp! 
Hoạt động giải trí ở trường trung học và đại học
Lộ trình điển hình
Lộ trình đạo đức học AI
Làm thế nào để đạt được công việc đầu tiên của bạn
  • Hoàn thành bằng cấp có liên quan, chẳng hạn như khoa học máy tính hoặc triết học, tập trung vào đạo đức AI
  • Nhận càng nhiều kinh nghiệm thực tế về NLP, AI, LLM, v.v. càng tốt trước khi đăng ký
  • Tăng cường sơ yếu lý lịch của bạn bằng cách tham gia các khóa học đặc biệt liên quan đến Đạo đức AI, nếu chương trình đại học của bạn không cung cấp đủ các lớp học có liên quan
  • Kiểm tra các cổng thông tin việc làm như Indeed, Simply Hired, Glassdoor, AI-Jobs.net và The AI Job Board
  • Hãy chú ý đến các yêu cầu về trình độ học vấn và kinh nghiệm được liệt kê trên các bài đăng công việc và lưu ý các từ khóa để sử dụng lại trong sơ yếu lý lịch của bạn. Từ khóa có thể bao gồm: 
    • Kiểm toán AI
    • Công nghệ AI
    • Giải quyết xung đột
    • Tư duy phản biện
    • Cộng tác đa chức năng
    • Quyền riêng tư và bảo mật dữ liệu
    • Quyết định
    • Công nghệ mới nổi
    • Phân tích đạo đức 
    • Phát triển khung đạo đức
    • Giải quyết vấn đề
    • Quản lý dự án
    • Tuân thủ quy định
    • Nghiên cứu và đánh giá
    • Đánh giá rủi ro 
    • Minh bạch và trách nhiệm giải trình
  • Kiểm tra các mẫu sơ yếu lý lịch AI Ethicist trực tuyến và xem xét các câu hỏi phỏng vấn xin việc tiềm năng
  • Nói chuyện với trung tâm nghề nghiệp của trường bạn để được hỗ trợ viết sơ yếu lý lịch của bạn, thực hiện các cuộc phỏng vấn giả, học cách ăn mặc để phỏng vấn thành công và giúp tìm hội chợ việc làm 
  • Hãy hỏi một nhà đạo đức AI đang làm việc để biết các mẹo tìm kiếm việc làm cá nhân của họ!
  • Nói chuyện với cố vấn học tập, giáo sư và người hướng dẫn của bạn để được tư vấn về việc khởi động sự nghiệp của bạn
  • Hãy cho mạng của bạn biết bạn đang tìm việc! Hầu hết các công việc vẫn được tìm thấy thông qua những người bạn biết, vì vậy hãy bắt đầu sử dụng một số vốn xã hội của bạn! 
  • Di dời đến nơi có công việc. Theo Versa Networks, các tiểu bang hàng đầu tuyển dụng nhiều nhất về AI là: California, Texas, New York, Washington, Virginia và Massachusetts
  • Xin phép liệt kê ai đó làm tài liệu tham khảo cá nhân trong đơn xin việc của bạn
  • Tạo một hồ sơ trên LinkedIn và bắt đầu viết bài về đạo đức AI!
Làm thế nào để leo lên thang
  • Hiểu được tầm quan trọng của việc đào tạo mô hình AI phù hợp và hậu quả đối với doanh nghiệp khi có sự cố. Công ty mẹ của Google là Alphabet đã mất 100 tỷ USD giá trị thị trường chỉ sau một đêm khi chatbot Bard ra mắt. và đưa ra câu trả lời sai. Trong khi đó, Bing đã phải thống trị AI của mình sau khi nó phát triển một bản ngã thay đổi kỳ lạ có tên là "Sydney"
  • Thực hiện theo và cẩn thận ghi lại các thủ tục để đảm bảo tính nhất quán và chính xác
  • Hỏi nhà tuyển dụng của bạn những kỹ năng nào bạn có thể nâng cao để phục vụ nhu cầu của họ tốt hơn. Đây có thể là bất cứ điều gì từ bằng cấp cao hơn đến chứng chỉ hoặc chỉ là một vài khóa học bổ sung
  • Thể hiện các giá trị đạo đức cao, liêm chính và nhạy bén trong kinh doanh
  • Cộng tác hiệu quả với các đồng nghiệp nhưng đừng chịu áp lực từ bạn bè. Chỉ cần tập trung vào việc giải quyết vấn đề
  • Đào tạo các nhà đạo đức học mới kỹ lưỡng, nhưng cũng lắng nghe quan điểm của họ. Giữ một tâm trí cởi mở bởi vì có nhiều yếu tố chủ quan cho lĩnh vực này (sau tất cả, nó bắt nguồn từ triết học!)
  • Luôn gắn bó với các tổ chức chuyên nghiệp và cập nhật những đột phá. AI đang phát triển nhanh chóng và các nhóm đang làm việc trên khắp thế giới để thúc đẩy phong bì hơn nữa
  • Đừng chỉ tập trung vào các vấn đề ngày nay. Dự báo các vấn đề ngày càng tăng hoặc tiềm ẩn có thể phát sinh và lập kế hoạch cho các dự phòng!

Một mối quan tâm đạo đức có lẽ xa vời nhưng vẫn còn giá trị là con người nên đối xử với AI như thế nào khi nó tiếp tục phát triển? Liệu AI cuối cùng có đạt đến điểm tự nhận thức? Nếu vậy, chúng ta sẽ xử lý nó cho phù hợp... Hay chỉ đơn giản là khai thác nó như một chương trình so với một sáng tạo có tri giác? 

Các tác giả khoa học viễn tưởng từ lâu đã bị ám ảnh bởi những câu hỏi như vậy. Từ tiểu thuyết I, Robot của Isaac Asimov đến cách đối xử phân biệt đối xử của Star Wars đối với các droid như C-3PO, triển vọng về các dạng sống AI thường được miêu tả là ảm đạm. Star Trek: The Next Generation đã khám phá ranh giới đạo đức này rất chi tiết trong tập "The Measure Of A Man", trong đó thuyền trưởng Picard của con tàu phải "chứng minh Data [một android tự nhận thức] là một sinh vật có tri giác hợp pháp với các quyền và tự do theo luật Liên bang..."

Công cụ/Tài nguyên được đề xuất

Các trang web

 

Sách vở

Kế hoạch B

Con đường để trở thành một nhà đạo đức học AI không rõ ràng như đối với hầu hết các ngành nghề. Và khi công nghệ AI tiếp tục phát triển, mọi thứ có thể thay đổi nhiều hơn nữa. Nếu bạn muốn có một công việc liên quan đến công nghệ nhưng muốn xem xét một số lựa chọn thay thế, hãy xem các tùy chọn dưới đây! 

  • Kỹ sư nhắc nhở AI
  • Kỹ sư dữ liệu lớn
  • Nhà phát triển Business Intelligence
  • Kỹ sư phần cứng máy tính
  • Lập trình viên máy tính
  • Nhà phân tích hệ thống máy tính
  • Kiến trúc sư cơ sở dữ liệu
  • Nhà khoa học dữ liệu
  • Chuyên viên Phân tích An toàn Thông tin
  • Nhà toán học
  • Kỹ sư học máy
  • Kỹ sư robot
  • Kỹ sư phần mềm
  • Kiến trúc sư phần mềm
  • Nhà phát triển web

Nguồn cấp tin tức

Việc làm nổi bật

Các khóa học và công cụ trực tuyến

SALARY AND JOB OUTLOOK
Choose a Subregion:

Annual Salary Expectations

$67K
$104K
$152K

New workers start around $67K. Median pay is $104K per year. Highly experienced workers can earn around $152K.

Source: State of California, Employment Development Department