AI는 다양한 분야에 혁명을 가져왔습니다. 많은 산업에서 일상 업무에서 인력을 지원하기 위해 AI를 빠르게 도입하고 있으며, 잉글랜드에서만 150만 개의 일자리가 이 기술로 대체될 것 으로 예측됩니다. AI가 사람들에게 혜택을 주고 반복적이고 단조로운 업무에서 인간을 해방시키는 경우도 있지만, AI의 급속한 발전은 윤리적으로 의문스러운 ‘솔루션’도 낳고 있어 논의가 필요합니다. 이하에서는 인력 관리 및 그 이상 분야에서의 다양한 AI 응용 사례를 살펴보고, 영국과 전 세계의 사례를 통해 AI의 이점과 함께 직장에서의 AI가 윤리적으로 무책임한지 여부를 검토합니다.
긍정적인 면
AI와 직원 코칭
빠르게 돌아가는 현대 사회에서 관리자는 동시에 여러 곳에 있을 수 없습니다. 직원들은 업무를 수행하기 위해 멘토링과 코칭을 필요로 하지만, 직장 관리자가 항상 곁에 있는 것은 불가능합니다. 따라서 AI 코칭 도구의 등장은 관리자와 직원 모두에게 큰 도움이 되었습니다. AI 코칭 도구는 우선 각 직원이 특정 업무를 어떻게 처리하는지 관찰합니다. AI 챗봇이 사용자 경험에 맞게 조정되는 것처럼, 이러한 AI 코치도 각 직원의 업무 방식 차이에 적응합니다.
그 구체적인 예로 최근 출시된 Cogito가 있으며, 이는 직원의 업무 완료 역량과 효율 최적화를 향상시키는 직장 코칭 도구입니다. AI와 행동 과학을 결합하여 직원들이 고객에게 보다 나은 전화 지원을 제공할 수 있도록 돕습니다. 고객 문의에 응대하는 전문가들은 다양한 방향으로 전개되는 통화를 안내할 수 있는 소프트웨어가 필요합니다. AI 코칭 도구는 고객 서비스 최전선에 있는 전문가들에게 실시간 조언을 제공할 수 있습니다.
인력 관리의 혁신적 도구로서의 AI
AI는 또한 현장에 배치되는 경우가 많지만 지속적인 모니터링과 지원이 필요한 직원 관리에도 도움을 줍니다. ITProPortal에 따르면 현장 서비스 관리 (FSM)는 기업이 직원의 시간을 보다 효율적으로 활용하기 위해 도입되고 있습니다. 해당 매체는 영국의 자동차 유리 수리 회사 Belron을 사례로 들며, 자동 일정 최적화를 도입해 당일 수리 건수를 63% 늘리고 기술자의 이동 시간을 20% 줄이는 데 성공했다고 소개합니다. 이를 통해 고객 서비스 품질이 높아지고 사업 비용이 절감되었습니다.
이 기술은 여러 산업에 걸쳐 도입되고 있으며, 영국 플리트 기업들도 드라이버 관리 강화를 위해 활용하고 있습니다. Verizon Connect의 상업용 GPS 기술 이점에 관한 분석에서는 효율성 향상 및 비용 절감, 드라이버 안전 개선, 실시간 드라이버 현황 파악을 통해 도로 위 직원들을 지원하는 방법을 보여줍니다. 덕분에 플리트 운영자는 각 드라이버의 위치를 파악하고 효율을 어떻게 높일 수 있는지 확인할 수 있습니다. 특정 직종에 맞춤화된 직원 관리 소프트웨어는 원격지 작업장의 안전성 향상과 계획 수립을 지원합니다. 또한 업무 부담 조율, 초과 근무 감소, 그리고 관리자가 항상 제공하기 어려운 코칭, 특히 직원이 이동 중일 때의 코칭을 보완하는 역할을 합니다.
부정적인 면
채용 과정에서 드러나는 인간의 편견
AI는 직원 채용 분야에서도 빠르게 활용되고 있습니다. 인사 부서 직원들이 수십만 건의 이력서를 일일이 검토하는 대신, 소프트웨어가 특정 조건을 갖춘 최적의 지원자를 자동으로 선별할 수 있습니다. AI는 인간을 훨씬 능가하는 속도로 데이터를 처리할 수 있지만, 항상 중립적이고 공정하다고 신뢰할 수는 없습니다. 채용에서의 AI는 흔히 인간의 편견을 드러냅니다.
가장 잘 알려진 사례는 Amazon 으로, 혁신적인 채용 도구가 지원자를 성별 중립적인 방식으로 평가하지 않는다는 사실이 밝혀졌습니다. 구체적으로, Amazon의 시스템은 기술 업계의 남성 우위를 반영하여 남성 지원자를 선호하도록 스스로 학습했습니다. 그러나 성별 편견만이 문제는 아니었습니다. 알고리즘은 코드 작성 능력처럼 IT 지원자들에게 공통적으로 나타나는 역량에 낮은 가중치를 부여하는 것도 학습했습니다. 대신 “captured”나 “executed”처럼 남성 엔지니어의 이력서에서 흔히 볼 수 있는 동사로 자신을 표현한 지원자를 선호했습니다.
시스템의 결함을 인정하면서도 많은 기업들이 같은 방향으로 나아가고 있습니다. Goldman Sachs는 자체 이력서 분석 도구를 개발해 지원자를 가장 적합한 부서와 매칭하는 한 단계 더 나아간 접근을 취하고 있습니다. 세계 최대의 전문가 네트워크 LinkedIn도 채용 담당자에게 구인 공고에 대한 적합도에 따라 지원자를 알고리즘으로 순위를 매기는 기능을 제공합니다. 그러나 편견을 줄이기 위한 노력도 진행 중임을 주목할 필요가 있습니다. AI는 인류를 비추는 거울이 되어 일부 영역에서 불평등, 인종차별, 성차별을 증폭시키고 있는데, 이는 주로 개발자들이 기술의 광범위한 영향을 고려하지 않은 데서 기인합니다. 이러한 편견에 대응하여 다양한 AI 응용 프로그램에서 차별과 편향을 진단하고 최소화하도록 돕는 Etiq AI와 같은 애플리케이션들이 등장하고 있습니다.
데이터 프라이버시와 보안
AI가 확산되면서 데이터 수요는 어느 때보다 높아졌습니다. 이 데이터의 상당 부분은 소비자로부터 오며, 일부는 명시적 동의 없이 수집됩니다. 따라서 AI가 야기하는 또 다른 문제는 데이터와 프라이버시입니다. AI를 활용하는 기업들이 소비자에 대해 보유한 정보의 양을 고려하면, 이는 심각한 결과를 초래할 수 있습니다. Forbes가 소개한 연구 에 따르면, 대기업의 데이터 침해 평균 비용은 전 세계적으로 386만 달러(310만 파운드)에 달합니다. AI 애플리케이션이 정보를 활용하는 방식에 대한 프라이버시와 투명성을 요구하는 목소리가 높아지고 있지만, 기술 혁신의 속도는 법이 따라가기에는 너무 빠른 것 같습니다. 향후 몇 년 안에 AI가 수집하고 사용하는 데이터의 보안과 개인정보 보호를 강화할 수 있는 더 많은 메커니즘이 마련되기를 기대합니다.
추한 면
채용을 넘어선 AI의 편견 문제
기계가 더 똑똑해질수록, 인간의 암묵적 편견을 흡수하는 능력도 높아지고 있습니다. 채용과 인력 관리를 넘어 AI의 추한 면이 점점 드러나고 있습니다. PredPol은 미국 경찰이 사용하는 알고리즘 으로 범죄 발생 시간과 장소를 예측하여 치안 활동에서 인간의 편견을 줄이는 것을 목표로 합니다. 그러나 이 소프트웨어가 범죄율과 무관하게 인종적 소수 집단이 많이 거주하는 특정 지역을 부당하게 표적으로 삼도록 경찰을 유도할 수 있다는 사실이 밝혀졌습니다.
마찬가지로, 얼굴 인식 기술도 법 집행 기관 및 관련 분야에서 활용되고 있습니다. 세계 상위 3개 성별 인식 AI는 백인 남성에 대해서는 99%의 정확도로 성별을 올바르게 식별할 수 있었지만, 피부색이 어두운 여성의 경우 정확도가 35%로 떨어졌습니다.
급속한 AI 발전의 윤리적 고려 사항을 이해하는 것은 채용 및 인력 관리와 같은 산업의 변화하는 흐름을 파악하는 데 필수적입니다. 다만, AI가 보이는 편견의 상당수가 인간의 반응을 반영한 것임을 인식하는 것이 중요합니다. AI의 한계에서 인간의 역할을 이해하는 것이 문제 해결의 첫 걸음입니다.
기술이 환경에 미치는 영향
AI 알고리즘은 더 효율적인 프로세스로 전환될 수 있는 연결 고리를 찾기 위해 쉼 없이 작동합니다. 그러나 이러한 예측 능력에는 대가가 따릅니다. AI 학습은 매우 에너지 집약적인 과정입니다. 새로운 연구에 따르면 AI 모델 하나를 학습시키는 탄소 발자국은 284톤의 이산화탄소에 해당하며, 이는 평균적인 자동차 한 대의 생애 배출량의 약 5배에 달합니다. 현실 세계에서 AI의 응용이 늘어날수록, 이 소프트웨어 학습에 사용되는 에너지로 인한 환경적 영향은 앞으로 수년간 점점 더 중요한 문제가 될 것입니다.
핵심 교훈
AI의 부상은 사회적 선(善)을 증진하는 수많은 혁신을 이끌어 왔습니다. AI 프로그램은 사람들이 적합한 일자리를 찾도록 도왔고, 직업적 성장을 지원했습니다. 또한 사회 복지사가 취약 계층을 파악하는 데 도움을 주고, 소비자에게 더욱 만족스러운 쇼핑 경험을 제공해 왔습니다.
그러나 이러한 이점에도 이면이 있다는 사실을 간과할 수 없습니다. AI는 특정 성별이나 인종에 편향되도록 학습될 수 있습니다. 또한 우리가 공유하려는 것 이상의 개인 정보를 수집할 수도 있습니다. 더 나아가 전 지구적 탄소 배출량을 더욱 증가시킬 가능성도 있습니다. 이러한 상황에서 우리는 AI에 관한 기로에 서 있습니다. ‘긍정적인 면’과 ‘부정적인 면’ 중 어느 쪽이 기술을 주도하도록 할 것인지 결정해야 합니다. 문제의 양면을 이해하면, 모든 사람의 더 나은 미래를 위해 AI를 어떤 방향으로 발전시켜 나갈지 결정하는 데 도움이 될 것입니다.
By: Jamie Briant written for Snap Out
