본 글은 연구목적으로 작성된 글이며 불법적 용도로 사용을 금합니다

[참고 논문] 윈도우 환경에서 카카오톡 데이터 복호화 및 아티팩트 분석 연구

카카오톡은 국내에서 가장 널리 사용되는 메신저로, PC 버전에서는 대화 기록을 EDB(Extensible Database) 파일 형태로 저장합니다.
하지만 이 파일은 SQLite 기반이지만 AES 암호화되어 있어 일반적인 방법으로는 접근이 어렵습니다.

1, 2편에서는 카카오톡 EDB 파일 복호화 파이썬 코드를 만들어보고 uuid, modelName, serialNumber 등을 확인하는 방법과 모든 것들을 다 조합하여 복호화에 성공한 EDB 파일을 sqLite browser 프로그램을 활용하여 내부 구조를 살펴보았습니다.

이번 편에서는 userid를 찾는 방법을 알아보도록하겠습니다.

2. 왜 userid를 알아야 하는가?

아래 코드를 보면 key와 iv 생성시에 pragma와 userid가 필요하게 되어있습니다. userid는 카카오톡 user마다 고유하게 부여되는 숫자로 최대 4억개정도(000000001~400000000)가 되는걸로 추정됩니다.

2. userid를 알아내는 방법

논문 “윈도우 환경에서 카카오톡 데이터 복호화 및 아티팩트 분석 연구” 에서 userid를 찾는 방법을 정리하면 다음과 같습니다.

📌 카카오톡 EDB 파일에서 userid 찾는 방법

✅ 1. userid의 역할

• userid는 카카오톡 데이터베이스 복호화에 필요한 입력값 중 하나로 사용됨
• 하지만 기기 내에서 직접 획득할 수 없는 정보이므로 별도의 추론 과정이 필요함

✅ 2. userid를 알아내는 방법

(1) 일반적인 전수조사 방법 (Brute Force)

• userid 값을 1부터 순차적으로 증가시키면서 데이터베이스 복호화를 시도
• 복호화 후 데이터 무결성 검사(pragma integrity_check) 가 정상적으로 실행되면 해당 userid가 올바른 값으로 판별됨

📌 알고리즘 요약

1. pragma와 userid를 512바이트까지 반복하여 연결한 후 MD5 해시를 수행하여 key 생성
2. key를 Base64 인코딩 후 MD5 해시를 수행하여 iv 생성
3. 생성된 key, iv를 사용해 AES 복호화 수행
4. SQLite 데이터베이스 무결성 검사 실행
5. 검사 통과 시 해당 userid를 정답으로 판별

📌 단점

• 데이터베이스 파일 크기만큼 파일 I/O 및 SQL 실행이 반복되어 속도가 느림

(2) SQLite 헤더 기반 전수조사 방법

• SQLite 데이터베이스 파일의 상위 16바이트 헤더를 활용하여 userid를 추론
• 복호화한 결과를 알려진 SQLite 파일 헤더 값과 비교하여 올바른 userid를 판별

📌 장점

• 데이터베이스 전체를 복호화하지 않고 파일의 앞부분(16바이트)만 복호화하여 속도 향상

📌 단점

• 여전히 userid 변경 시마다 AES 키 스케줄을 반복 생성해야 하는 비효율적인 부분 존재

(3) 사용자 디렉토리명 기반 전수조사 방법 (가장 효율적)

• 카카오톡은 사용자별로 고유한 디렉토리를 생성하며, 이 디렉토리명은 userid를 기반으로 암호화됨
• 따라서 디렉토리명을 복호화하여 userid를 찾는 방식이 가능함

📌 알고리즘 요약

1. KAKAOTALK_PC_FOREVER 문자열을 MD5 해시하여 key 생성
2. Base64 인코딩 후 MD5 해시를 수행하여 iv 생성
3. AES 암호화를 수행하여 userid 기반 사용자 디렉토리명 생성
4. 기존 사용자 디렉토리명과 비교하여 일치하는 userid를 찾음

📌 장점

• 파일 I/O와 SQL 실행 없이 userid를 빠르게 찾을 수 있음
• AES 키 스케줄을 반복하지 않고 한 번 생성한 키를 재사용 가능

📌 실제 성능 비교 (전수조사 시간)

➡ 가장 빠르고 효율적인 방법은 “사용자 디렉토리명 기반 전수조사” 방식

🔍 결론

논문에서는 userid를 찾기 위한 다양한 방법을 비교하고, 가장 효과적인 방법으로 “사용자 디렉토리명 기반 전수조사” 방식을 제시합니다.
이 방법을 사용하면 기존 방식보다 훨씬 빠르게 userid를 찾아낼 수 있으며, 파일 접근을 최소화하여 전수조사 시간을 1분 30초까지 단축할 수 있습니다.

3. 코드로 만들어보기

여러가지 방법 중에 헤더 기반 전수조사 방법으로 userid를 찾는 코드를 아래 처럼 만들어 보았습니다.

시간은 조금 걸리기는 하지만 userid를 찾을 수 있었습니다.