AI 윤리 전문가로서의 경력 또는 직업 기회

스포트라이트

비슷한 제목

인공지능 윤리 전문가, 인공지능 윤리 컨설턴트, 인공지능 윤리 책임자, 인공지능 윤리 기준 분석가, 인공지능 정책 및 윤리 고문, 인공지능 거버넌스 전문가, 인공지능 책임 개발 관리자, 인공지능 윤리 의사 결정 컨설턴트, 인공지능 윤리 및 규정 준수 책임자, 인공지능 윤리 프레임워크 개발자.

작업 설명

인간은 결함이 있고 편향된 상반된 감정의 묶음입니다. 우리는 항상 잘못된 결정을 내리고 그 과정에서 종종 자신이나 다른 사람에게 상처를 주기도 합니다. 그렇다면 사람들이 우리처럼 생각하고 행동하는 인공 지능 프로그램을 만들려고 하면 어떤 일이 벌어질까요?

AI는 어린아이와 같아서 좋은 것이든, 나쁜 것이든, 추한 것이든 우리가 소통하는 모든 것을 흡수합니다. 우리가 AI 모델에 입력하는 대부분의 데이터에는 인간의 의견, 선호도, 편견이 담겨 있습니다. 하지만 우리는 AI의 결과물, 즉 응답이 객관적이고 논리적이며 편견이 없기를 기대합니다.

우리는 인공지능이 어떻게든 우리보다 더 나아지기를 바랍니다. 어떻게 가능할까요? 인공지능은 어린아이와 달리 진정한 지각 능력이 없습니다. 인공지능은 (아직) 스스로 생각하거나 "잘못된" 행동을 할 때 이를 인식할 수 없습니다. 예를 들어, Microsoft의 Bing AI는 불량 "사람들을 모욕하고, 거짓말을 하고, 심지어 사람들을 감정적으로 조종"하기 시작했습니다.

이러한 문제는 점점 더 널리 퍼지고 있지만, AI 윤리학자라는 전문가 집단에 의해 해결되고 있습니다. As 딜로이트 는 "AI 윤리학자의 주요 책임은... AI 시스템의 설계, 개발 및 배포에 윤리적, 사회적, 정치적 관점을 추가하여 AI에 대한 공학적 접근 방식을 개선하는 것입니다."라고 설명합니다. 다른 주요 책임으로는 윤리적 AI 관행에 대한 조언, 잘못된 행동으로 인한 의도하지 않은 결과로부터 보호, AI 관련 결정 및 행동에 대한 책임성 확보 등이 있습니다."라고 설명합니다.

경력의 보람있는 측면

사람들에게 더 나은 서비스를 제공하기 위한 AI 시스템 개선 지원
다양한 방식으로 삶을 개선할 수 있는 잠재력을 지닌 혁신적 산업에서 일하고 있습니다.
매력적인 급여와 현재 높은 취업 전망

중간 급여

$121,841

인사이드 스쿱

직무 책임

근무 일정

AI 윤리 담당자는 풀타임으로 근무하며, 목표와 기간에 따라 초과 근무가 필요할 수 있습니다. 업무는 주로 실내에서 수행하지만 가끔 출장이 필요할 수도 있습니다.

일반적인 의무

책임감 있는 AI(RAI) 사례 및 도구의 생성, 평가 및 구현
RAI와 관련된 조직의 준비 상태 평가
팀과 협력하여 AI 모델 개발 시 윤리적 고려 사항을 통합하세요.
사용 사례 및 시스템에 대한 윤리 분석 수행
편견, 개인정보 보호, 자율성 등 다양한 윤리적 문제를 분석합니다.
학술 연구 수행 및 연구 결과를 요약한 논문 작성
AI 개발 및 배포를 위한 윤리적 프레임워크 개발
정책 입안자와 이해관계자에게 윤리적 영향에 대한 지침 및 교육 제공
표준 및 모범 사례 개발 지원
AI 모델이 확립된 윤리적 원칙과 가치에 따라 작동하도록 보장합니다.

추가 책임

RAI 프로젝트에 대한 상담
교육 자료 작성
여러 부서로 구성된 팀과 협력하여 문제 해결
절차에 대한 철저한 문서화 유지
업계 발전과 트렌드에 대한 최신 정보 확인

직업에 필요한 기술

소프트 스킬

적응성
분석
합작
의사소통 기술
창조성
비판적 사고
디테일 지향
징계
공감
윤리
독립의
무결성
조직적
조직
환자
프리젠 테이션 기술
문제 해결
건전한 판단
팀워크
시간 관리
글쓰기 기술

기술 능력

머신러닝 알고리즘, 자연어 처리, 컴퓨터 비전을 포함한 AI 기술에 대한 지식
데이터 분석 방법 및 프로그램
코딩에 대한 일반적인 지식(예: Python 또는 R)
데이터 개인정보 보호법 및 규정 숙지
사이버 보안 원칙
인간 중심 디자인 원칙
AI 시스템 위험 평가

다양한 유형의 조직

개인 비즈니스 기업
AI 연구 기업
대학

기대와 희생

AI 윤리 전문가의 업무 범위는 매우 광범위할 수 있습니다. 윤리 프레임워크와 가이드라인을 만들고, AI 모델이 윤리적인 방식으로 작동하도록 철저하고 객관적인 평가를 수행하는 일을 담당합니다. 여기에는 많은 학제 간 협력이 필요하며 때로는 의견 충돌이나 갈등이 발생하기도 합니다.

웨스트 런던 대학교의 폴라 보딩턴 박사의 말처럼 노트에서 언급했듯이 AI 윤리는 "우리의 윤리적 결정이 옳은지 계속 질문할 것을 요구합니다." AI 윤리주의자는 편향적이거나 차별적인 AI 모델 행동과 같은 윤리적 위험을 식별하면서 청렴성을 유지하고 확고한 입장을 견지해야 합니다. 또한 정책 입안자와 이해관계자가 듣고 싶지 않을 수도 있는 말을 솔직하게 해야 합니다.

현재 동향

최근 ChatGPT와 구글의 바드와 같은 인공지능은 놀라운 능력으로 큰 반향을 일으켰습니다. 실제로 많은 기술 리더들은 이제 인공지능이 너무 발전하고 있다는 경종을 울리고 있습니다. 너무 대중이나 기업을 보호할 충분한 보호 장치 없이 너무 빠르게 발전하고 있다는 경고를 보내고 있습니다.

예를 들어, 인공 지능 프로그램의 저작물을 누가 '소유'하는지에 대한 저작권 관련 문제가 있습니다. 인공지능 윤리학자들은 또한 인공지능이 실수로 보호되는 개인 데이터를 공개하는 등 우발적인 민감한 정보 공개로 인해 잠을 설치기도 합니다.

많은 직업 분야가 위험에 처해 있습니다. 많은 직업 분야가 위협받고 있지만 이는 제기되는 많은 우려 중 하나에 불과합니다. Bing의 AI가 다음과 같은 기괴한 AI 행동에 대한 우려도 타당합니다. "강박적인 스토커" 모드에 들어가는 것과 같은 기괴한 행동에 대한 우려도 있습니다. 이러한 유해한 콘텐츠는 AI로 인해 발생할 수 있는 문제 중 빙산의 일각에 불과합니다. AI를 인류에 대한 실존적 위협으로 보는 불안한 종말론자들은 적지 않습니다, 라 스카이넷 처럼 AI를 인류의 실존적 위협으로 보는 종말론자들은 많습니다!

이 직업에 종사하는 사람들은 어렸을 때 어떤 종류의 일을 즐겼습니까?

인공지능 윤리학자들은 어릴 때부터 기술에 관심이 많았을 것입니다. 수학, 컴퓨터 코딩, 프로그래밍 언어, 심지어는 해킹. 동시에 분석적인 문제 해결이나 철학, 사회 문제 또는 공공 정책에 관한 독서를 즐겼을 수도 있습니다.

팀워크는 이 직업 분야에서 중요한 부분이지만, AI 윤리학자는 때때로 의견 충돌이 있을 때 기꺼이 유일한 반대 목소리를 내야 합니다. AI의 윤리적 행동을 보장하는 것이 이들의 임무입니다. 옳은 것을 옹호하는 이러한 능력은 어린 시절의 경험을 통해 발달할 수 있습니다.

교육 및 훈련 필요

필요한 교육

AI 윤리 전문가가 되려면 대학 학위가 필요하지만, 직무 자격 요건은 다양합니다. 모든 AI 윤리 전문가 직무에 적용되는 특정 학위나 학위 수준(예: 학사, 석사, 박사)은 없습니다.
인기 있는 학위 옵션은 철학, 컴퓨터 과학, 법학, 심리학, 사회과학입니다.
고급 학위를 소지하는 것도 도움이 될 수 있지만, 폭넓고 관련성 있는 교육 배경을 갖추는 것도 중요합니다.
- 예를 들어, 고용주는 컴퓨터 공학 학사(AI 전공)와 철학 석사(응용윤리 또는 도덕철학 전공)를 가진 지원자를 원할 수 있습니다.
또한 고용주는 AI 개발, 정책 결정, 연구와 관련된 실무 경력을 갖춘 지원자를 찾습니다. 자연어 처리, 머신 러닝, 대규모 언어 모델에 대한 경험도 원할 수 있습니다.
일반적인 코스 주제는 다음과 같습니다:
- AI와 정책
- AI와 사회
- AI 윤리 및 철학
- 인간과 AI의 상호작용
- AI의 법적 문제
학생들은 다음과 같은 프로그래밍 언어도 배울 수 있습니다. 파이썬 과 같은 프로그래밍 언어를 혼자서 또는 수업을 통해 배울 수도 있습니다.
클래스 센트럴 다양한 무료 AI 윤리 온라인 강좌에 대한 자세한 정보를 제공합니다.
또한 다음과 같은 Coursera의 과정 및 인증 제공을 확인하십시오. 인공 지능: 개요 전문 분야

딜로이트 는 필요한 모든 자격을 갖춘 후보자를 찾는 데 어려움이 있다고 지적합니다. "이 모든 분야에서 신뢰할 수 있는 경험과 지식을 갖춘 한 사람을 찾는 것은 사실상 불가능합니다. 대신 기업은 AI 윤리에 대한 팀 접근 방식을 취하여 다양한 분야의 전문가로부터 인사이트를 원활하게 조율하고 통합하는 방법을 배움으로써 필요한 다분야 역량과 경험을 확보해야 합니다."

대학에서 찾아야 할 것들

먼저, 어떤 전공을 하고 싶은지 결정하세요. 철학과 컴퓨터 과학이 인기 있는 전공입니다.
학교의 AI 윤리 관련 강좌를 살펴보세요.
AI 윤리 직무에 가장 적합한 교육을 맞춤화할 수 있는 이중 또는 복합 학위 프로그램(학사 및 석사 과정을 함께 이수)을 고려하세요.
프로그램 졸업생의 취업 통계를 확인하세요.
수업료, 할인 및 지역 장학금 기회 비용을 고려하십시오 (연방 지원 이외에)
캠퍼스 내 프로그램, 온라인 프로그램 또는 하이브리드 프로그램에 등록할지 여부를 결정할 때 자신의 일정과 유연성을 고려하세요!

고등학교와 대학에서해야 할 일

컴퓨터 과학, 프로그래밍, 영어, 작문, 토론에 등록하세요, 수사학, 철학, 비즈니스 법률, 사회 과학, 공공 정책 수업에 등록하세요.
팀워크, 프로젝트 관리, 문제 해결, 갈등 해결에 대한 기술을 쌓을 수 있는 방법을 찾아보세요.
다음에서 온라인 AI 관련 강좌를 수강하세요. Coursera, Udemy, Microsoft, DeepLearning.AI및 기타 사이트
NLP, ML, LLM 및/또는 프로그래밍과 관련된 아르바이트를 통해 실제 경험을 쌓으세요.
이력서 작성을 시작하고 업무 경험을 배우고 쌓으면서 이력서에 추가하세요.
채용 공고를 미리 검토하여 평균 요구 사항이 무엇인지 확인하세요. AI 윤리 전문가 직무마다 교육 요건이 모두 같지 않을 수 있습니다.
정보 제공 인터뷰 요청 정보 제공 인터뷰 인터뷰를 요청하세요. 그들의 교육 과정과 그들이 다르게 행동했을 수도 있는 것에 대해 물어보세요.
향후 구직 참고자료가 될 수 있는 연락처 목록(이메일 주소 또는 전화번호 포함)을 작성하세요.
현재 AI 윤리 문제에 대한 책과 기사를 읽고 동영상을 시청하세요.
온라인 포럼 토론 및 토론에 참여하세요. 인맥을 쌓고 사회적 자본 사회적 자본을 구축하세요.
전문 단체에 참여하여 배우고, 공유하고, 친구를 사귀고, 네트워크를 확장하세요. 가입을 고려할 만한 단체는 다음과 같습니다:

일반적인 로드맵

1차 직장에 입지를 잡는 방법

AI 윤리에 중점을 두고 컴퓨터 과학이나 철학 등 관련 학위를 이수하세요.
지원하기 전에 NLP, AI, LLM 등에 대한 실무 경험을 최대한 많이 쌓으세요.
대학 프로그램에서 관련 수업을 충분히 제공하지 않는 경우, AI 윤리와 관련된 임시 강좌를 수강하여 이력서를 강화하세요.
다음과 같은 채용 포털을 확인하세요. Indeed, Simply Hired, Glassdoor, AI-Jobs.net및 AI 구인 게시판
채용 공고에 기재된 교육 및 경력 요건을 주의 깊게 살펴보고 이력서에 재사용할 키워드를 메모해 두세요. 키워드에는 다음이 포함될 수 있습니다:
- AI 감사
- AI 기술
- 충돌 해결
- 비판적 사고
- 부서 간 협업
- 데이터 개인정보 보호 및 보안
- 의사 결정
- 새로운 기술
- 윤리 분석
- 윤리 프레임워크 개발
- 문제 해결
- 프로젝트 관리
- 규정 준수
- 연구 및 평가
- 위험 평가
- 투명성 및 책임성
온라인 확인 AI 윤리주의자 이력서 템플릿 을 확인하고 잠재적인 면접 질문을 검토하세요.
이력서 작성, 모의 면접, 성공적인 면접을 위한 옷차림, 취업 박람회 찾기 등의 도움을 받으려면 학교의 커리어 센터에 문의하세요.
현직 AI 윤리 전문가에게 개인적인 구직 팁을 물어보세요!
커리어 시작에 대한 조언은 지도교수, 교수 및 강사와 상담하세요.
인맥에 구직 중이라는 사실을 알리세요! 대부분의 일자리는 여전히 지인을 통해 찾을 수 있으므로 사회적 자본을 활용하세요!
일자리가 있는 곳으로 이동합니다. Per 버사 네트워크에 따르면 AI를 가장 많이 고용하는 상위 주들은 다음과 같습니다: 캘리포니아, 텍사스, 뉴욕, 워싱턴, 버지니아, 매사추세츠입니다.
입사 지원서에 개인 추천인으로 등록할 수 있도록 허락 요청하기
LinkedIn에서 프로필을 만들고 AI 윤리에 관한 기사를 작성하세요!

사다리를 오르는 법

적절한 AI 모델 학습의 중요성과 문제가 발생했을 때 비즈니스에 미치는 영향에 대해 이해합니다. Google의 모회사 알파벳 은 Bard 챗봇의 데뷔와 오답으로 인해 하룻밤 사이에 1,000억 달러의 시장 가치를 잃었습니다. 한편, Bing은 이상한 인공지능을 개발한 후 인공지능의 분신 "시드니"라는 이름의
일관성과 정확성을 보장하기 위해 절차를 따르고 신중하게 문서화하세요.
고용주에게 더 나은 서비스를 제공하기 위해 어떤 기술을 향상시킬 수 있는지 물어보세요. 고급 학위부터 자격증 또는 몇 가지 추가 과정까지 무엇이든 될 수 있습니다.
높은 도덕적 가치, 성실성, 비즈니스 통찰력을 보여주세요.
동료와 효과적으로 협업하되 동료의 압력에 굴복하지 마세요. 문제 해결에만 집중하세요.
새로운 윤리학자를 철저히 교육하되 그들의 관점에도 귀를 기울이세요. 이 분야에는 주관적인 요소가 많으므로 열린 마음을 유지하세요(결국 철학에 뿌리를 두고 있습니다!).
전문 기관과 지속적으로 교류하며 혁신적인 기술에 대한 최신 정보를 확인하세요. AI는 빠르게 진화하고 있으며 전 세계의 팀들이 한계를 뛰어넘기 위해 노력하고 있습니다.
오늘의 문제에만 집중하지 마세요. 성장하거나 잠재적인 문제 발생할 수 있는 문제를 예측하고 우발 상황에 대비하세요!

먼 이야기일지 모르지만 여전히 유효한 윤리적 관심사 중 하나는 계속 진화하는 AI를 인간이 어떻게 대해야 하는가 하는 것입니다. AI는 결국 자기 인식의 지점에 도달할까요? 그렇다면 우리는 그에 걸맞은 대우를 할 것인가, 아니면 단순히 지각이 있는 피조물이 아닌 프로그램으로 활용할 것인가?

공상 과학 소설 작가들은 오랫동안 이러한 질문에 집착해 왔습니다. 아이작 아시모프의 아이, 로봇 소설부터 스타워즈의 차별적 대우 에 이르기까지 인공지능 생명체에 대한 전망은 종종 암울하게 그려져 왔습니다. 스타트렉: 넥스트 제너레이션은 다음 에피소드에서 이 윤리적 영역을 매우 상세하게 탐구했습니다. "인간의 척도" 이 에피소드에서 우주선의 선장 피카드가 "증명"해야 했던 것은 데이터 데이터[자각 안드로이드]가 법적으로 연방 법률에 따라 권리와 자유를 가진 지각 있는 존재라는 것을..."이라고 증명해야 했습니다.

권장 도구/리소스

웹사이트

책

AI 윤리(MIT Press 필수 지식 시리즈), by 마크 코켈버그
인공 지능의 윤리, by S. 매튜 리아오
옥스퍼드 인공지능 윤리 핸드북, 마르쿠스 더버, 프랭크 파스콸레, 수닛 다스 저

계획 B

AI 윤리 전문가가 되기 위한 길은 대부분의 직업처럼 명확하지 않습니다. 그리고 AI 기술이 계속 발전함에 따라 상황은 더 많이 바뀔 수 있습니다. 기술 관련 직업을 원하지만 몇 가지 대안을 고려하고 싶다면 아래 옵션을 확인해 보세요!

AI 프롬프트 엔지니어
빅데이터 엔지니어
비즈니스 인텔리전스 개발자
컴퓨터 하드웨어 엔지니어
컴퓨터 프로그래머
컴퓨터 시스템 분석가
데이터베이스 설계자
데이터 과학자
정보 보안 분석가
수학자
머신 러닝 엔지니어
로봇 공학 엔지니어
소프트웨어 엔지니어
소프트웨어 아키텍트
웹 개발자

뉴스 피드

편집 매트 케이츠

AI 윤리학자

스포트라이트

뉴스 피드

주요 채용 정보

온라인 과정 및 도구

비슷한 경력