김병옥은 연극 무대에서 출발해 20년 후 영화 데뷔 후 한국 영화계에서 가장 신뢰받는 악역 전문 배우로 자리 잡았다. 1983년 연극배우로 첫 데뷔한 후 2003년 영화 《클래식》으로 늦게 영화 무대에 진입했지만, 2004년 박찬욱 감독의 《올드보이》에서 이우진의 경호실장 역으로 출연하면서 대중에게 강렬한 인상을 남겼다. 이 영화가 칸 영화제 심사위원대상을 수상하며 세계적 인정을 받으면서 김병옥도 함께 국제적 조명을 받게 되었다. 이후 《친절한 금자씨》, 《신세계》 등에서 강렬한 악역을 연기하며 한국 영화계의 없어서는 안 될 명품 조연으로 평가받았다. 악역으로만 알려져 있지만 실제로는 코믹한 연기도 수준급이며, 예능 출연 시에는 실제 성격이 매우 순박하고 착한 모습으로 알려져 있어 배역과의 괴리를 보여주었다. 선 굵은 악역 연기와 장르를 가리지 않는 캐릭터 소화 능력으로 한국 영화계를 대표하는 명품 조연 배우로 계속해서 많은 사랑과 신뢰를 받고 있다. 2026년 오십프로에서 황화산 역을 맡았다. 2025년 뉴-올드보이 박찬욱에 출연했다. 2024년 수상한 그녀에서 Mysterious taxi driver 역을 맡았다.