콘텐츠로 이동
개발 기록
← 전체 글

보관 기간이 지나도 그대로인 데이터

정규화한 요청 기록과 판정 상세에는 30일의 보관 기준을 두었다. 하지만 날짜가 지나면 자동으로 그만큼의 공간이 비워지는 것은 아니었다. Redis의 EXPIRE처럼 시간이 지나면 알아서 지워 주는 기능이 PostgreSQL에는 없다. 데이터베이스에 기록한 것을 지우는 일은 직접 구현해야 하는 부분이었다. 지워도 되는 자료를 확인한 뒤 실제로 삭제하는 작업이 필요했고, 당시 정리 방식은 새로 쌓이는 양을 따라가기 어려웠다.

메모리 문제와 같은 자원 시험에서 드러난 문제다. 여기서 확인한 것은 과거 데이터의 행이 정리되는지이며, 데이터베이스 파일의 크기가 같은 비율로 줄어드는지를 측정한 결과는 아니다.

보관 기간은 삭제할 수 있는 시점이었다

섹션 제목: “보관 기간은 삭제할 수 있는 시점이었다”

요청 기록은 신고의 근거로 쓰였다. 30일이 지났더라도 신고에 필요한 증거를 아직 사본으로 보존하지 않았다면 먼저 지울 수 없었다. 보관 기간은 삭제 자격이 생기는 시점이고, 실제 삭제에서는 증거 보호 조건을 함께 확인했다.

신고에 보존한 증거 사본과 개정판은 별도로 다뤘다. 아직 검토 중이거나 발송 결과가 불확실한 신고는 나이가 많다는 이유로 지우지 않았다. 종료한 신고에는 마지막 변경 후 180일이라는 기준을 적용했다. 원본을 정리한 뒤에도 신고 내용을 확인할 수 있어야 했기 때문이다.

30일과 180일은 이 정도면 적당하다고 생각해 정한 값이다. 실제 서비스였다면 개인정보 처리방침 같은 근거가 있어야겠지만, cheesetrap은 직접 설치해 쓰는 셀프 호스트 도구다.

이 보호 때문에 남는 자료와, 지워도 되지만 정리가 밀려 남는 자료를 구분해야 했다. 이번에 줄이려던 것은 후자의 밀린 작업이었다.

요청 한 건이 저장 행 하나로 끝나지 않았다

섹션 제목: “요청 한 건이 저장 행 하나로 끝나지 않았다”

정리해야 할 양을 요청 건수만으로 계산할 수는 없었다. 요청을 판정하고 그 근거를 연결하면서 추가 자료가 생겼다. 여러 판정은 같은 증거 묶음을 공유했고, 각 판정이 어느 묶음을 사용했는지도 연결 기록으로 남겼다.

초당 20건을 목표로 30분 동안 입력한 표본에는 요청 기록 36,000건과 판정 18,572개가 있었다. 판정과 증거 묶음 사이의 연결 기록은 1,468,476개였다. 이 연결만 해도 분당 약 48,949개가 생긴 셈이다.

근거를 남기고 싶다는 생각은 곧 어떤 이벤트든 하나씩 다 기록한다는 뜻이었다. 그러다 보니 요청 하나에 기록 하나가 아니라, 요청 하나에 여러 기록이 붙는 관계가 생겼다. 기록을 남겨야겠다고 생각했을 때와 실제로 쌓이는 속도를 봤을 때의 느낌은 굉장히 달랐다. 사람이 많이 들어오는 서비스라면 이런 기록을 남길 때 고민을 많이 해 봐야 할 것 같다.

기존 정리 작업은 한 번 실행할 때 각 정리 SQL을 최대 100행 단위로 처리하고 끝났다. 정상 주기인 분당 한 번으로 계산하면, 연결 기록을 지울 명목 상한도 분당 100개였다. 잠시 더 자주 실행되는 경우는 있었지만, 정상 주기 기준으로는 쌓이는 양과 큰 차이가 났다.

보관 기간을 줄여도 이 차이는 남는다. 더 일찍 삭제 대상이 될 뿐, 한 번에 처리할 수 있는 양이나 실제 실행 빈도가 늘지는 않기 때문이다. 삭제 자격을 바꾸기 전에 정리 작업이 어떻게 시간을 쓰는지 살펴야 했다.

한 번 지우고 끝내던 작업을 이어 가기

섹션 제목: “한 번 지우고 끝내던 작업을 이어 가기”

먼저 한 SQL에서 처리하는 상한을 100행에서 1,000행으로 늘렸다. 이어서 정리가 진척되면 같은 작업 안에서 다음 트랜잭션을 실행하도록 바꿨다. 로컬 시험에서는 만료된 감사 기록 2,501개를 준비했다. 기존에는 100개를 처리하고 끝났지만, 수정 뒤에는 최대 1,000개씩 나눠 처리하고 마지막에 남은 대상이 없는지도 확인했다. 종료 확인을 포함해 네 번의 트랜잭션이 실행됐다.

반복하는 동안에도 수집과 판정은 계속돼야 했다. 그래서 각 묶음의 삭제를 확정하는 커밋 뒤에는 잠금을 풀고 10ms를 양보했다. 저장 상태를 측정하는 시간까지 포함해 20초가 지나면 새 호출을 시작하지 않고, 1초 뒤 작업을 재개하도록 했다. 정리 SQL의 5초 제한도 유지했다.

삭제 가능 여부를 확인하는 조회도 줄였다. 여러 판정이 같은 증거 묶음을 쓰는데, 기존에는 그 묶음의 실제 기록 수와 사본 존재 여부를 판정마다 다시 확인했다. 공유하는 묶음은 한 번 집계하고 그 결과를 재사용하도록 바꿨다.

이 개선을 적용한 뒤, 보관 기간이 지난 것으로 준비한 과거 요청 기록 36,000건과 연결 기록 1,468,476개 등을 두고 새 요청을 받으면서 정리하도록 했다. 하지만 첫 지속 시험은 통과하지 못했다. 30분 안에 준비한 과거 데이터를 모두 정리해야 했는데, 제한 시점에도 과거 요청 기록 6,771개와 연결 기록 54,171개가 남았다. 많이 지우기는 했지만 정해 둔 시간 안에 끝내지는 못했다.

지울 양을 제한해도 찾는 작업은 클 수 있었다

섹션 제목: “지울 양을 제한해도 찾는 작업은 클 수 있었다”

남은 비용을 좁히기 위해 실패한 데이터의 복제본에서 정리 함수를 한 번 실행했다. 진단으로 생긴 변경은 저장하지 않고 되돌렸다. 이 진단에서는 정리 대상인 증거 묶음 14개의 기록 337개를 찾는 동안, 다른 묶음의 기록까지 포함해 약 59만 개를 읽고 있었다.

삭제 상한을 1,000행으로 두었어도 그 대상을 찾는 데 읽는 양까지 제한되는 것은 아니었다. 그래서 정리 대상 묶음을 먼저 찾고, 그 묶음에 속한 기록을 따라가도록 조회 범위를 좁혔다. 삭제할 집합과 순서는 기존 결과와 대조했다.

잠금 경합으로 기다리는 방식도 함께 바꿨다. 다른 작업이 잠금을 사용 중이면 기존 후보는 곧바로 1초 뒤로 미뤘다. 수정 뒤에는 트랜잭션을 취소하고 데이터베이스 연결을 반환한 다음, 50ms 뒤 같은 작업의 20초 예산 안에서 다시 시도했다. 조회 비용과 경합 대기를 각각 줄이는 변경이었다.

다음 지속 시험에서는 과거 요청과 판정, 증거 연결 자료를 약 739초 만에 모두 정리했다. 원본이 사라진 뒤에도 보류 중이거나 발송 결과를 알 수 없는 신고의 증거 사본 18,600개와 개정판 세 개는 그대로 읽고 대조할 수 있었다.

이어서 종료 상태이며 보관 기준을 넘긴 신고를 정리하는 시험을 진행했다. 여기서는 사본을 삭제해도 되는지 확인하는 조회가 5초 제한을 넘었고, 트랜잭션이 취소돼 사본과 개정판은 남았다. 원본 정리가 끝났다고 보관 절차 전체가 끝난 것은 아니었다.

이 조회의 추정 실행 계획에는 공유 증거의 연결을 크게 펼친 뒤 보호 여부를 확인하는 경로가 나타났다. 필요한 연결이 존재하는지를 확인하도록 바꾼 다음, 실패 데이터의 복제본에서 기존 쿼리와 수정 쿼리를 각각 실행하고 되돌렸다. 기존 쿼리는 5초 제한에 걸렸고, 수정 쿼리는 약 561ms에 사본 1,000개를 삭제했다. 이는 별도 진단의 결과이며 전체 정리 시간과는 구분했다.

새 입력을 받는 동안 끝까지 정리하기

섹션 제목: “새 입력을 받는 동안 끝까지 정리하기”

최종 확인도 과거 데이터와 새 입력을 함께 둔 상태에서 진행했다. 정리 함수를 수동으로 연속 호출하는 대신 실제 주기 작업으로 끝까지 정리되는지 확인했다. 과거 시각을 조정한 것은 시험 데이터이며, 제품의 보관 기간은 유지했다.

시험은 OCI ARM64 서버에서 PostgreSQL 1 GB·1 CPU, 앱 256 MB·1 CPU와 Go 메모리 예산 192 MB를 유지했다. 같은 호스트의 센서에 합성 요청을 넣었고, 지속 입력과 급증 입력은 각각 같은 과거 데이터의 별도 복원본에서 시작했다.

급증 시험에서는 새 판정을 저장할 때 증거를 확인하는 작업도 지연됐다. 최종 후보에는 해당 판정의 증거만 확인하도록 조회 범위를 좁히고, 검증 함수에 한해 SQL의 JIT 컴파일을 끄는 변경까지 포함됐다. 아래 시간은 이 변경들을 반영한 최종 시험 결과다.

새 입력 조건 새 요청의 수집·판정 완료 과거 요청·판정·연결 자료 정리 완료
초당 20건 목표로 30분 36,000건 약 616초
초당 200건 목표로 60초 12,000건 약 680초

정리 시간은 입력 시작부터 준비한 과거 자료가 모두 0건으로 관측될 때까지다. 급증 입력이 끝난 뒤에도 정리와 판정은 이어졌다. 두 시험 모두 과거 자료 정리의 1,800초 기준을 통과했고, 새로 들어온 요청 기록과 판정 자료는 보존됐다.

지워야 할 자료가 사라졌는지와 함께 남겨야 할 신고도 확인했다. 원본 정리 후 증거 사본 18,600개와 세 개정판을 읽고 내용을 대조했다. 이어 종료 상태이며 마지막 변경 후 181일이 지난 것으로 준비한 신고를 실제 주기 작업이 정리하면서, 그 신고와 사본·개정판도 모두 제거했다. 두 최종 시험에서 작업 오류와 수집 공백, OOM, 재시작은 관측되지 않았다.

기간과 처리량을 따로 확인하기

섹션 제목: “기간과 처리량을 따로 확인하기”

보관 기간은 어떤 자료를 언제부터 삭제할 수 있는지 정하는 기준이었다. 실제로 밀린 데이터를 줄이려면 그 자료를 찾는 비용과 한 번에 처리하는 양, 다른 작업과 함께 실행될 기회를 따로 확인해야 했다.

정리 작업을 제한된 시간 안에서 반복하고 조회 범위를 좁힌 뒤, 새 입력을 받으면서 준비한 과거 자료를 정리할 수 있었다. 동시에 신고에 필요한 사본은 보호하고, 종료 후 만료된 신고는 정리하는 과정까지 확인했다.

이번에 확인한 것은 정해진 과거 자료와 유한한 입력에 대한 정리 완료다. 보관 기간을 설정하는 것과, 실제 유입량에서 저장 용량을 감당하는지는 별도로 확인할 문제로 남았다.

첫 지속 시험이 실패했을 때는 오히려 다행이라고 생각했다. 가상 환경이었기에 이렇게 많이 시험하고 많이 실패할 수 있었다. 실제 서비스였다면 어려웠을 것이다. 실패를 많이 해 보는 것도 좋은 방향이라고 생각한다.