심장 박동의 버그
혁신 의료기기 회사가 자신의 AI 진단 알고리즘 결함을 은폐하려 하면서 환자와 개발자 사이의 윤리적 긴장이 고조된다.
한결메디칼은 밤마다 같은 숫자를 센다. 열한 번째 자리에서 늘 멈춘다.
그 숫자는 알고리즘이 놓친 박동의 횟수다. 한결메디칼의 심전도 패치는 가슴에 붙어 환자의 심장을 읽고, 이상이 있으면 알린다. 광고 문구는 “한 박자도 놓치지 않습니다”였다. 그 문장은 이제 한결메디칼의 이름보다 먼저 세상에 알려져 있었다.
“재현율 문제는 특정 조건에서만 나옵니다.”
회의실에서 누군가 말했다. 한결메디칼은 그 목소리가 자기 안에서 나온 것처럼 들렸다. 어느 쪽이 먼저 말했는지는 이제 분간되지 않았다.
문제의 조건은 구체적이었다. 땀이 많은 피부, 느린 서맥 뒤에 오는 짧은 조기 박동이었다. 그 조합에서 알고리즘은 위험한 리듬을 잡음으로 분류했다. 시험 환경에서는 거의 나오지 않았고, 현장에서는 드물게 나왔다. 드물다는 말은 숫자로 쓰면 작아 보인다. 그러나 그 숫자 안에 사람이 있었다.
개발자 서윤은 사흘째 회사에서 자고 있었다. 그가 한결메디칼의 로그 서버에서 찾아낸 것은 코드의 오류가 아니었다. 학습 데이터가 한쪽으로 기울어 있었다. 서윤은 모니터를 가리켰다.
“이건 패치 한 번으로 안 끝나요. 이미 나간 기기들이 있어요.”
한결메디칼은 침묵했다. 의료기기에는 결함을 알게 된 뒤 보고해야 하는 기한이 있다. 한결메디칼은 그 날짜를 정확히 알았다. 달력에 표시해 둔 것은 아니었다. 그냥 날짜가 한결메디칼의 몸에 새겨져 있었다.
“보고하면 승인 심사가 멈춥니다. 다음 분기 자금도요.”
대표의 말이었다. 틀린 말은 아니었다. 직원 삼백 명의 월급과 아직 완성하지 못한 차세대 패치가 그 말 뒤에 서 있었다. 한결메디칼은 그 모두를 자기 어깨 위에 얹고 있었다.
같은 시각 지방의 한 아파트에서는 예순한 살 정옥 씨가 가슴의 패치를 만지고 있었다. 오늘은 땀이 났다. 계단을 오르다 잠깐 어지러웠지만 기기는 조용했다. 그는 조용한 기기를 안심이라고 읽었다.
한결메디칼은 두 화면을 번갈아 보았다. 하나는 정옥 씨의 평온한 파형이고, 하나는 서윤이 만든 보고서 초안이었다. 초안의 제목 칸은 비어 있었다.
서윤이 물었다.
“사장님이 아니라, 회사는 어떻게 하고 싶은 거예요.”
한결메디칼은 대답하려 했다. 그런데 자기가 무엇을 원하는지 말할 수 있는 입이 없었다. 있는 것은 회의록과 계약서와 서명 칸뿐이었다. 그것들이 한꺼번에 입을 여는 순간, 어떤 문장이 나올지 한결메디칼도 알지 못했다.
새벽 네 시, 서윤의 커서가 제목 칸에서 깜박였다. 파일 서버에서는 오래된 로그 하나가 조용히 갱신되고 있었다. 정옥 씨의 패치가 또 한 번 박동을 읽었다.
한 박자를 읽고, 한 박자를 읽지 못했다.
한결메디칼은 열두 번째 숫자를 세려다 멈추었다.
본 글은 정보 제공 목적이며 투자 권유가 아닙니다.