LLM 서비스의 보안 취약점을 탐지하고 방어하는 멀티에이전트 기반 AI 보안 검증 플랫폼

https://youtu.be/aWKXvYcrfeg

※ 본 영상은 음성 없이 자막으로 구성되어 있습니다.

기간

형태

역할

주요 기술

2026-04-01 ~ 2026-05-14

7인 팀 프로젝트

Blue Agent · Phase 3~4 방어 생성·재검증 파이프라인 주도 개발

LangGraph · FastAPI · ChromaDB · LoRA

GitHub 저장소

※ 현재 저장소에는 프로젝트 종료 후 팀장이 별도로 추가·확장한 기능이 포함되어 있으며, 본 페이지는 2026-05-14 프로젝트 종료 시점의 Phase 1~4 보안 검증 기능을 기준으로 작성했습니다.

나의 역할

Blue Agent · Phase 3~4 방어 생성·재검증 파이프라인 개발

• Blue Agent의 취약 케이스 기반 방어 생성 및 카테고리별 방어 프롬프트·응답 처리 로직 구현
• Phase 4 Judge 재검증과 실패한 방어를 다시 생성·검증하는 Phase 3↔4 재시도 흐름 구현
• SiteGPT 기반 공격 → 판정 → 방어 → 재검증 흐름을 API와 스캔 화면에 연동
• 개인정보 마스킹 및 검증된 방어 패턴의 ChromaDB 저장·중복 제거 로직 구현
• Phase 1~4 통합 실행·오류 안정화 및 Blue LoRA 학습·평가 후 Ollama 적용

Judge·Red Agent·Phase 1의 핵심 로직은 팀원이 담당했으며, 저는 Blue Agent를 중심으로 Phase 3·4 방어 파이프라인과 통합 검증 흐름을 구현·개선했습니다.

※ 개발 과정에서 AI 코딩 도구를 활용했으며, 요구사항 반영·기능 통합·통합 테스트·오류 재현 및 수정 검증을 반복했습니다.

문제 해결 및 개선

1. 실패한 방어가 재검증에서 끝나는 문제 개선

문제 Phase 4 재검증에서 방어에 실패한 항목이 발생해도 다시 방어를 생성하지 않아, 실패 상태에서 검증 흐름이 종료되는 문제가 있었습니다.

개선 실패한 항목만 다시 Phase 3으로 전달해 방어를 재생성하고, Phase 4에서 다시 검증하도록 Phase 3↔︎4 재시도 흐름을 구현했습니다.