차별에서 공정성으로: 인공지능의 차별 완화와 공정성 제고를 위한 제도적 방안

김건우

추천

검색

질문

자료유형: 학술저널

저자정보: 김건우 (광주과학기술원)

저널정보: 전북대학교 법학연구소 법학연구 법학연구 통권 제61집

발행연도: 2019.12

수록면: 109 - 143 (35page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

사회 각 분야에 인공지능이 도입되고 활성화됨에 따라, 이와 관련하여 다양한 사회적 · 윤리적 · 법적쟁점도 대두되고 있다. 그 중 가장 두드러진 것은 인공지능의 판단이나 의사결정의 결과가 사회가 원하지 않는 종류의 편향과 차별을 띨 수 있다는 점이다. 인공지능 알고리즘에 따른 의사결정도 인종 · 젠더 · 연령 · 외모 등 다양한 측면에서 편향을 드러낼 수 있으며, 이러한 편향도 인간의 의사결정에서 드러나는 편향 못지않게 심각할 수 있다는 것이다.
본고는 이러한 문제와 관련하여 다음과 같은 정책적 대응 방안을 제시하고 논의하였다. 일차적으로 인공지능의 설계와 활용 및 평가 등 모든 단계에서 국제인권규범이나 국내 법규상의 차별 금지에 관한 규율을 충실하게 준수해야 한다. 다만 이러한 경성 규범을 활용할 때에는 신중할 필요가 있고, 연성 규범을 적극적으로 활용하는 것이 더욱 권장할 만하다. 주지하듯, 국가와 정부기구에서부터 국제기구나 전문가집단, 그리고 민간 기업에 이르기까지 여러 주체들은 이미 인공지능의 활용에 관한 윤리 가이드라인과 규약, 그리고 헌장 등을 제시한 바 있으며, 우리 정부나 기관들도 이같은 규범을 제정하고 준수할 필요가 있다. 인공지능 개발자 선서나 행동규약을 제정하여 준수하게 하는 것도 유사한 의의와 효용이 있을 수 있다. 보다 근본적이고 직접적인 해결책으로, 애초에 ‘선한’ 인공지능을 설계하고 제조하고자 관련 연구개발에 노력할 필요도 있다. 그리고 인공지능(알고리즘)에 대한 사전영향 평가나 사후 감사도 필요하다. 뿐만 아니라, 인공지능의 입출력물을 공개하는 한편 이용자로부터 설명 요청이 있을 때에 컨트롤러가 이에 응하는 것을 의무화하는 방안도 유력하다. 끝으로, 이른바 인공지능 시민권을 보장하는 차원에서, 인공지능과 관련한 시민의 전반적 이해도와 역량을 강화하는 것이 필요하다.

With the widespread introduction and use of artificial intelligence today, there arise a variety of relevant social, ethical and legal issues. The most remarkable among them is the issue that the outcome of the decision-making made by artificial intelligence can involve bias or discrimination of the kind as the society does not want to accept. That is, such decision-making can involve vicious bias in various aspects including race, gender, age, and looks. This bias can be a problem as serious as the bias typically found in decision-making made by humans.
This paper attempts to offer and discuss the following policies as responses to this problem. First of all, we would need to respect and obey the regulations and norms of international and domestic human rights laws on anti-discrimination-at the entire stages of design, use and assessment of artificial intelligence. It is recommended, however, that in the process we take advantage of the so-called soft laws rather than hard laws. In this regard, a variety of agencies including the states, governmental agencies, international agencies, expert groups, and private corporations have already proposed ethics principles, guidelines, and charters. The Korean government then also need to make endeavors similar to these proposals. In a similar vein, it would also be useful to let the developers make a declaration and codes of conduct that ensure artificial intelligence to be somehow ethical, and the developers to obey them. As a more fundamental and direct solution to the problem at issue, in the process of R&D we would need to try to design and make ‘good’ artificial intelligence as such. Next, it would also be useful to make assessment and audit of the system and service of artificial intelligence. In addition, it would also be thinkable to institutionalize to open the inputs and outputs of artificial intelligence to the users and to make it a duty for the controllers to respond to them when they claim to an explanation of the output. Lastly, we would need to enhance the literacy and capacities of users as citizens on artificial intelligence in order to secure their so-called ‘artificial intelligence citizenship.’

#차별 #편향 #공정성 #투명성 #책무성 #설명가능성 #인공지능 #Discrimination #Bias #Fairness #Transparency #Accountability #Explainability #Artificial Intelligence

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

김건우

소속기관 광주과학기술원

주요연구분야 사회과학 > 법학 복합학 > 과학기술학

논문수 7 이용수 2,737

이 논문과 함께 이용한 논문

인공지능 알고리즘은 사람을 차별하는가?

오요한 , 홍성욱 과학기술학연구 2018 .12

인공지능과 차별

고학수 , 정해빈 , 박도현 저스티스 2019 .04

인공지능 알고리즘의 편향성과 공정성

정원섭 인간·환경·미래 2020 .10

인공지능과 젠더차별

한애라 이화젠더법학 2019 .12

토픽의 조합으로 이벤트 흐름을 예측하기 위한 시각적 분석 시스템

연한별 , 김석연 , 장윤 정보과학회 컴퓨팅의 실제 논문지 2015 .12

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)