일상적인 업무에서 AI 윤리 문제는 어떤 형태로 나타납니까?
직장에서 발생하는 AI 윤리 문제는 대개 사소한 편법의 형태로 나타납니다. 아무도 확인하지 않는 순위, 아무도 서명하지 않는 서신, 승인받지 않은 도구에 붙여 넣은 스프레드시트가 그 예입니다.
직원 35명의 가상 임대 중개업체 콜더 레팅스를 생각해 봅니다. 부동산 관리 담당자 나디아에게는 월요일 아침 두 가지 일이 있습니다. 첫째, 주말 동안 유지보수 요청 60건이 접수됐고, AI 어시스턴트에 긴급도순으로 정리해 달라고 하려 합니다. 둘째, 세입자 14명이 임대료를 연체했고, 어시스턴트에 납부 안내문 초안을 작성해 달라고 하려 합니다. 정리되지 않은 입력 내용은 다음과 같습니다. '보일러 작동 안 함, 아이 2명, 4B호'; '수도꼭지 또 샘!!'; '침실 곰팡이, 세입자가 천식 있다고 함'; '연체 목록 첨부: 이름, 금액, 전화번호, 한부모 엄마나 실직 같은 메모'. 각 줄에는 나디아가 스스로 내리고 있다는 사실조차 알아차리지 못할 수 있는 윤리적 판단이 들어 있습니다.
윤리적 AI의 원칙을 쉬운 말로 설명하면 무엇입니까?
윤리적 AI의 원칙은 다섯 가지 질문으로 요약됩니다. 공정한지, 투명한지, 개인정보를 보호하는지, 누가 책임을 지는지, 피해를 초래할 수 있는지입니다. 유네스코의 인공지능 윤리 권고와 OECD AI 원칙 같은 국제 지침은 더 많은 항목을 제시하지만, 이 다섯 가지로 대부분의 사무직 근로자가 마주하는 결정을 다룰 수 있습니다.
공정성: 비슷한 사람들을 서로 다르게 대우하게 되나요?
이름, 주소, 영어 작문 능력처럼 영향을 주어서는 안 되는 이유로 결과물의 순위, 점수, 표현이 달라지는지 확인합니다.
투명성: 영향을 받는 사람들이 AI가 사용되었다는 사실을 알 수 있습니까?
고객, 동료 또는 세입자가 이 사실을 안내받으리라고 합리적으로 기대할 만한지, 그리고 결과가 어떻게 나왔는지 설명할 수 있는지 물어보세요.
개인정보 보호: 작업에 필요한 것보다 더 많은 개인정보를 공유했습니까?
작업에 꼭 필요한 경우가 아니라면 이름, 연락처, 민감한 메모를 제거하고 회사가 승인한 도구만 사용합니다.
책임 소재: 이 결정은 누구의 명의로 내려집니까?
AI의 도움을 받은 모든 결정에는 이를 검토하고 책임질 사람이 필요합니다. 'AI가 제안했습니다'라는 말로는 책임자를 대신할 수 없습니다.
피해: 이것이 틀리면 누가 손해를 봅니까?
현실적으로 일어날 수 있는 최악의 오류와 그 대가를 누가 치르는지 생각해 봅니다. 개인이 감당해야 할 피해가 클수록 결과물을 더 꼼꼼히 확인해야 합니다.
미흡한 AI 윤리 관련 의사결정과 개선된 의사결정은 어떻게 다릅니까?
미흡한 접근: 나디아는 메모 열을 포함한 임대료 체납 스프레드시트 전체를 붙여 넣고 '이 세입자들에게 임대료를 내지 않으면 퇴거 조치를 받을 수 있다고 알리는 단호한 서신을 작성해 주세요.'라고 요청합니다. 또 AI 도구에 유지보수 목록을 '중요도순으로' 정렬해 달라고 요청합니다. 결과에서는 수도꼭지 누수 문제가 곰팡이 문제보다 높은 순위에 오릅니다. 해당 세입자가 길고 화난 메시지를 썼기 때문입니다. 최근 실직했다는 메모가 있는 세입자에게 보내는 서신에도 퇴거라는 단어가 반복됩니다. 개인적인 메모가 도구에 입력되었고, 아무도 서신에 서명하지 않았으며, 우선순위는 위험이 아니라 목소리 큰 항의에 유리하게 매겨집니다.
개선된 접근법: 나디아는 이름, 전화번호, 비고 열을 삭제한 뒤 다음과 같이 요청합니다. '이 유지보수 요청을 건강과 안전에 대한 위험, 재산 피해, 생활 편의 순으로 우선순위를 매겨 주세요. 각 순위의 이유를 한 줄로 설명해 주세요. 메시지의 어조나 길이는 고려하지 마세요.' 그 결과 아이들이 있는 가구의 보일러 문제와 건강 질환이 명시된 곰팡이 문제가 최상위에 오르고, 각각 나디아가 확인할 수 있는 이유가 제시됩니다. 안내문에는 미납 금액을 밝히고, 상환 계획을 협의할 통화를 제안하며, 무료 채무 상담을 받을 곳을 안내하는 정중한 서식 하나를 요청합니다. 나디아는 직접 이름을 넣고 안내문을 하나씩 읽은 뒤 서명합니다. 이제 다섯 가지 질문 모두에 답이 있습니다.
AI의 도움을 받아 내린 결정이 윤리적인지 어떻게 확인합니까?
AI의 도움을 받아 내린 결정을 점검하려면 실행에 옮기기 전에 다섯 가지 질문 각각에 한 줄씩 답을 적습니다. 답을 적을 수 없는 항목이 있다면 그 부분을 보완하거나 상위 책임자에게 검토를 요청해야 합니다.
| 질문 | 나디아의 답변 |
|---|---|
| 공정한가요? | 메시지의 말투가 아닌 명시된 위험 기준에 따라 순위를 정합니다 |
| 투명합니까? | 서신은 실명이 명시된 담당자가 검토하고 서명합니다 |
| 비공개인가요? | 사용 전 이름, 전화번호 및 메모 삭제 |
| 최종 책임자는? | 나디아가 순위와 각 서신을 담당합니다. |
| 피해는? | 최악의 경우에도 수리 지연에 그침. 주요 위험은 사람이 직접 확인 |
직장에서 AI를 윤리적으로 사용할 때 흔히 하는 실수는 무엇입니까?
가장 흔한 실수는 윤리를 각 결과물에 적용하는 습관이 아니라 정책 문서로만 여기는 것입니다. 그 밖에도 기계라는 이유로 도구가 중립적이라고 가정하거나, 같은 스프레드시트에 있었다는 이유로 민감한 메모까지 붙여 넣거나, AI가 매긴 순위의 근거를 묻지 않고 그대로 받아들이거나, 사람들이 사람이 작성했으리라 기대하는 소통에서 AI 사용 사실을 숨기는 실수가 있습니다. 결정이 누군가의 주거, 일자리, 돈 또는 건강에 영향을 미친다면 혼자 결정하지 말고 권한이 있는 사람에게 판단을 맡겨야 합니다.
Tosheo.ai 교육 과정에서 윤리적 AI는 어디에 해당합니까?
윤리적 AI는 AI 기초 역량 과정의 '책임 있는 AI와 정책' 분야에 속하며, 책임 있는 AI 관리 조치와 사람의 검토에 관한 수업과 함께 제공됩니다. Tosheo.ai의 실습 과제에서는 자신의 직무와 관련된 짧은 사례를 받아 AI 도구로 의사결정을 내립니다. 평가 기준에 따른 피드백은 빠뜨린 질문을 하나씩 짚어 줍니다.