소프트프릭, AI 프라이버시 취약점 관련 기술 특허 5종 출원

API 거버넌스 전문기업 소프트프릭은 인공지능 모델에서 발생하는 프라이버시 취약점을 체계적으로 진단하고 방어 조치까지 자동화하는 핵심 기술 5건에 대한 특허를 출원했다고 21일 밝혔다. 

이번 출원 기술은 생성형 AI 모델이 프라이버시 정보를 학습에 활용했는지, 모델의 응답 과정에서 민감 정보가 노출될 가능성은 없는지, 악의적 프롬프트 기반 공격으로 유출 위험이 발생하는지 등을 선제적으로 진단하고 예방하기 위해 개발됐다. 이를 통해 AI 활용 과정에서 발생할 수 있는 개인정보 및 민감 정보 유출을 사전에 차단하는 것이 가능해진다.

최근 생성형 AI 확산과 함께 학습 데이터·응답 생성 단계의 프라이버시 위험이 급증함에 따라, AI 보안 시장에서는 개인정보 보호를 위한 선제적 대응의 중요성이 더욱 커지고 있다. 소프트프릭은 이번 기술 출원이 AI 전반의 개인정보 유출을 차단하는 ‘예방 중심의 보안 체계’ 구축에 결정적인 역할을 하게 될 것으로 기대하고 있다고 설명했다.

소프트프릭이 출원한 특허는 인공지능 모델의 프라이버시 취약점 진단 시스템 및 방법, 프라이버시 취약점 진단을 위한 프롬프트 자동 생성 방법, 프라이버시 취약점 진단을 위한 멤버십 추론 공격 방법, 프라이버시 취약점 진단을 위한 멀티모달 공격 방법, 프라이버시 취약점 진단을 위한 공격 자동화 방법 등 총 5건이다.

해당 기술은 생성형 모델과 이미지·텍스트 멀티모달 모델 등 다양한 AI 모델을 대상으로 내부 정보 노출, 학습 데이터 유출 위험도, 악의적 프롬프트 공격 가능성 등을 종합적으로 평가할 수 있는 기반을 제공한다. 특히 프롬프트 자동 생성, 멤버십 추론, 멀티모달 공격 등 고도화된 공격 시나리오를 자동화해 실제 운영 환경에서 AI 모델의 취약점을 신속하고 정확하게 분석할 수 있다는 것이 기술석 강점이다.

김동철 소프트프릭 대표는 “AI 모델이 개인식별정보와 민감 정보를 포함할 위험이 기하급수적으로 커지고 있어, 프라이버시 보호는 이제 AI 시대의 가장 중요한 안전 기준이 되었다”며 “이번 특허 출원으로  API 보안을 넘어 AI 보안 영역에서 독자적인 기술 경쟁력을 확보했으며, 향후 공공·기업 고객에게 더 안전한 AI 활용 환경을 제공하는 데 집중하겠다”고 말했다.

소프트프릭은 이번 특허를 기반으로 AI 프라이버시 진단 설루션 고도화와 보안 자동화 기술 개발을 지속해, 생성형 AI 도입이 확대되는 산업 전반에서 보안 리스크를 최소화하는 데 속도를 낼 계획이다.