컴백부터 K-뷰티까지 — K-컬쳐의 모든 것을 메일로 받아보세요메일로 받아보기

METAL MEDIA

Commonwealth-Bank-of-Australia/project-echo

7PythonMIT

커먼웰스은행이 VHS 테이프 속 오래된 영상을 AI로 검색 가능한 자료로 바꾸는 파이프라인을 공개했다

Commonwealth Bank of Australia(CBA)가 100년 넘게 쌓인 아카이브 영상, VHS와 베타맥스 같은 오래된 테이프를 디지털화하면서 그 안의 내용을 검색할 수 있게 만드는 오픈소스 파이프라인 Project ECHO를 공개했다. 음성을 텍스트로 바꾸는 음성인식 모델과 영상 속 장면을 설명해주는 멀티모달 AI(VLM)를 결합해 영상 하나하나에 자막과 장면 설명을 자동으로 붙여준다. 저장소는 연구·교육·커뮤니티 목적으로 공개된 것이며 CBA의 실제 운영 시스템은 아니라고 명시하고 있다.

무엇을 하는 레포인가

  1. 오래된 아카이브 테이프(VHS, 베타맥스 등)를 디지털화하는 과정에서 영상 속 음성과 장면을 검색 가능한 텍스트로 바꾸는 파이프라인을 만들었다
  2. Whisper 계열 음성인식 서버로 오디오를 텍스트로 옮기고, ffmpeg로 장면이 바뀌는 지점의 대표 프레임을 뽑은 뒤 비전-언어 모델(VLM)로 각 장면을 설명하고, 필요하면 LLM으로 전체 내용을 요약한다
  3. 저장소는 로컬 컴퓨터부터 운영 인프라까지 돌아가도록 저장소(S3 또는 로컬 파일)와 데이터베이스(SQLite 또는 DynamoDB)를 독립적으로 선택할 수 있게 설계했다
  4. OpenAI API뿐 아니라 자체 호스팅한 vLLM 서버 등 OpenAI 호환 엔드포인트라면 어디든 연결해 쓸 수 있고, 처리 결과는 데이터베이스에 저장되며 옵션으로 파일로도 저장된다
  5. 빠른 장면 전환(예: 자막 화면이 본편 전에 잠깐 뜨는 경우)을 잘못 짚지 않도록 여러 장면을 묶어서 한 번에 설명을 생성하는 클러스터 인식 기능도 추가로 제공한다

왜 중요한가

물리 테이프로만 남아있어 훼손되고 있는 방대한 역사 기록물을 디지털화와 동시에 내용까지 검색 가능하게 만드는 실전 활용 사례를 보여준다. 음성인식과 비전-언어 모델을 조합해 아카이브를 자동으로 색인화하는 구조는 기업, 방송사, 도서관 등 대량의 영상 자료를 가진 곳이라면 참고할 만하다.

이 레포의 용어

  • VLM(Vision-Language Model) · 이미지를 보고 글로 설명할 수 있는 멀티모달 AI 모델
  • Whisper · 오디오를 텍스트로 옮겨주는 음성인식 AI 모델
  • vLLM · AI 모델을 직접 서버에 올려 빠르게 서비스할 수 있게 해주는 오픈소스 도구
  • ffmpeg · 영상·오디오를 자르고 변환하는 데 널리 쓰이는 오픈소스 도구
  • DynamoDB · 아마존이 제공하는 클라우드 데이터베이스 서비스

레포 원문 소개 (영문)

Codebase for Project ECHO: Video Transcription and Annotation Pipeline

GitHub에서 보기

주목받는 레포

레포 전체 보기 →

METAL MEDIA 최신 기사