AI 채용 시스템의 알고리즘 차별, 당신의 이력서는 이미 '거절'당했는가?

취업 준비를 하던 시절, 밤을 새워 다듬은 이력서를 전송하고 나면 밀려오는 건 설렘이 아니라 막연한 불안함이었습니다. 하지만 최근에는 그 불안함의 색깔이 조금 달라졌습니다. "내가 부족해서 떨어졌을까?"라는 질문 대신, "혹시 AI가 내 나이를 보고, 혹은 내 성별을 보고 나를 거절한 건 아닐까?"라는 서늘한 의문이 고개를 들기 때문입니다.

어느 날 갑자기 찾아온 '보이지 않는 벽'

제 지인 중 한 명인 A씨의 이야기를 들려드릴게요. 그는 업계에서 인정받는 실력자였고, 최근 한 대기업의 채용 공고를 보고 밤낮없이 준비했습니다. 결과는 '탈락'이었죠. A씨는 자신의 경력이나 기술 스택에서 결함을 찾을 수 없었습니다. 면접 기회조차 얻지 못한 채 서류 단계에서 끊겼기 때문입니다.

그는 처음엔 자책했습니다. '내가 이 부분이 약했나?' 하며 스스로를 깎아내렸죠. 하지만 나중에 알게 된 사실은 충격적이었습니다. 그 회사가 도입한 AI 기반 채용 시스템이 과거의 데이터, 즉 특정 연령대나 특정 성별이 주를 이루었던 데이터들을 학습하며 '그게 정답'이라고 믿어버린 결과였습니다. A씨는 실력이 없어서가 아니라, 알고리즘이 설정한 '데이터의 틀'에 맞지 않는다는 이유로 시작도 하기 전에 문전박대를 당한 셈입니다.

이것은 단순히 한 개인의 불운이 아닙니다. 우리가 마주한 AI 채용의 서늘한 현실입니다.

효율성이라는 이름 뒤에 숨은 '블랙박스'의 함정

기업들이 왜 이토록 AI에 열광할까요? 이유는 명확합니다. 수만 건의 이력서를 사람이 일일이 읽는 것은 불가능에 가깝기 때문입니다. AI는 인간보다 훨씬 빠르고, 비용도 저렴하며, 감정에 휘둘리지 않는 '객관적인' 결정권자로 보입니다.

하지만 여기서 결정적인 문제가 발생합니다. 바로 알고리즘 편향성입니다.

AI는 스스로 생각하는 존재가 아닙니다. 인간이 던져준 과거의 데이터를 먹고 자라는 거대한 거울과 같습니다. 만약 우리가 과거에 특정 지역 출신이나 특정 성별을 선호했다면, AI는 그 데이터를 학습하며 "아, 이 조건들이 합격의 기준이구나!"라고 오해합니다. 결국 기존의 차별을 데이터라는 이름으로 포장해 더 강력하고 정교하게 재생산하는 것이죠.

더 큰 문제는 이 과정이 '블랙박스(Black Box)'처럼 작동한다는 점입니다. AI가 왜 이 지원자를 탈락시켰는지, 어떤 기준으로 점수를 매겼는지 기업조차 명확히 설명하지 못하는 경우가 많습니다. 지원자 입장에서는 이유도 모른 채 거절당하는, 소통이 거부된 채용 프로세스를 경험하게 되는 것입니다.

전 세계가 주목하는 'AI 편향' 소송과 규제의 움직임

이런 문제가 현실화되면서 전 세계적으로 거센 법적 공방이 이어지고 있습니다. 대표적인 사례가 바로 미국의 인사 기술 기업 WorkDay를 상대로 제기된 집단 소송입니다.

WorkDay의 AI 도구가 연령, 인종, 장애를 이유로 지원자들을 부당하게 차별했다는 의혹이 제기된 사건이죠. 특히 40세 이상의 지원자들이 반복적으로 거절당했다는 주장은 AI가 어떻게 특정 집단을 배제할 수 있는지 극명하게 보여주었습니다. 이는 AI가 중립적인 도구가 아니라, 학습 데이터의 결함에 따라 의도치 않은 차별적 결과를 초래할 수 있음을 증명하는 뼈아픈 사례입니다.

이에 대응하여 세계 각국은 규제의 칼날을 갈고 있습니다.

• 유럽연합(EU)의 AI Act: EU는 AI 시스템을 위험도에 따라 분류합니다. 특히 채용, 평가, 해고 등 고용 분야에서 쓰이는 AI는 '고위험(High-risk) AI'로 분류되어 매우 엄격한 관리를 받습니다. 투명성 확보와 인간의 감독(Human Oversight)이 필수적이며, 이를 어길 시 기업은 전 세계 매출의 최대 7%에 달하는 막대한 과징금을 물어야 할 수도 있습니다.
• 인간 중심의 통제: 전문가들은 AI가 결정을 내리더라도, 최종적인 판단은 반드시 사람이 해야 한다는 'Human-in-the-loop' 시스템의 중요성을 강조합니다. AI는 조력자일 뿐, 인간의 존엄성과 권리를 대신할 수 없기 때문입니다.

우리가 준비해야 할 질문들: 기술은 과연 공정한가?

그렇다면 우리는 이 기술의 홍수 속에서 어떻게 대응해야 할까요? 기업과 정부, 그리고 구직자 모두에게 각기 다른 숙제가 놓여 있습니다.

기업은 단순히 효율성을 위해 AI를 도입하는 것을 넘어, 알고리즘의 공정성을 정기적으로 감사해야 할 사회적 책임(CSR)이 있습니다. AI가 내린 결정에 대해 지원자가 설명을 요구할 수 있는 권리를 보장해야 하며, 기술이 인간의 기본권을 침해하지 않도록 내부 윤리 가이드라인을 구축해야 합니다.

구직자로서 우리는 변화하는 채용 환경을 이해해야 합니다. 이제는 단순히 스펙을 쌓는 것을 넘어, AI가 읽어내기 쉬운 구조적인 데이터(키워드 최적화 등)를 준비하면서도, 동시에 자신의 권리가 침해되었을 때 이를 증명할 수 있는 법적 지식과 증거를 확보하는 지혜가 필요합니다.

결국 핵심은 '투명성'과 '책임'입니다. AI가 내린 결정이 '블랙박스' 속에 갇혀 누구도 책임지지 않는 영역이 되어서는 안 됩니다. 기술이 발전할수록, 그 기술을 다루는 인간의 윤리적 기준과 법적 장치는 더욱 정교해져야 합니다.

글을 마치며: 기술이 인간을 소외시키지 않으려면

AI 기반 채용은 거스를 수 없는 흐름입니다. 하지만 그 흐름이 공정함이라는 가치를 휩쓸고 지나가게 두어서는 안 됩니다. 효율성이라는 달콤한 열매 뒤에 숨겨진 알고리즘의 편향성을 끊임없이 의심하고 감시하는 것, 그것이 바로 우리가 기술과 공존하기 위해 치러야 할 비용입니다.

당신은 AI가 내린 채용 결과에 승복할 수 있나요? 혹은, AI가 당신의 미래를 결정하는 세상이 온다면 어떤 보호 장치가 가장 필요하다고 생각하시나요?

여러분의 생각을 댓글로 들려주세요.