[The AI Shield 2] 메타데이터 필터링 – 시스템 설정 및 필터링
보안 업계에서 20여 년간 다양한 인프라 보호를 운영해본 경험에 의하면, 시스템이 고도화될수록 ‘확률’에 기대는 방어는...
[The AI Shield 1] 프롬프트 인젝션 방어 설계 – 시스템 설정 및 필터링
개인적으로 보안 업계에 있으면 이와 같이 큰 변화를 보고 개발해보고 평가 할 수 있게 되서...
AI 보안 다층 방어 체계 구축을 위한 4가지 필수적 설계 로직 및 자동화 방법론
저는 “다층 방어 체계”가 요즘 유행인가? 라는 생각을 하던 때가 있었습니다. 사실 그 환경에서는 리스크의...
탈옥과 프롬프트 주입의 진화: AI 가드레일을 무력화하는 적대적 7가지 공격 시나리오
나름 20여년을 기업에서 보안의 다양한 분야를 경험했습니다. 그런데 레드팀을 직접 해본적이 없었습니다. 그냥 툴을 사용하거나...
영어 공부 기획 (Project 3 – Step 1)
저는 외국계 대기업을 다니고 있는데 영어를 진짜 못합니다. 그래서 개인적으로 영어 공부를 좀 해야 될...
데이터 비식별화 기술 5가지 필수적 프레임워크와 데이터 관리 전략
데이터 보안을 하기 전까지는 프라이버시 데이터를 다루지 않아서, 데이터 비식별화 에 대해서 상당히 비판적으로 생각했습니다....
섀도우 AI 대응 및 기업 문화 혁신을 위한 필수적 거버넌스 체계 구축 방안
지금 LLM이 발전하는 시기에 회사를 옮겼는데 이전회사나 지금 회사 둘 다 어떤 하나의 AI를 사용하는...
AI 레드 티밍의 정의와 필요성: 비결정론적 모델을 위한 현대 보안의 핵심
서론: 인공지능 전환의 시대와 보안 패러다임의 근본적 변화 과거의 보안이 정해진 로직 안에서 버그를 찾는...
RAG 보안 관리 필수적 설계 및 접근 제어 Step 3
사실 RAG 보안에 대한 관심을 가지고 있어서 Step3에 넣어봤는데 처음에는 Step2의 개인정보보호와 비슷할거라고 생각했습니다. 사실...
비정형 데이터 보안 필수적 탐지 및 실시간 필터링 Step 2
최근에 정형 데이터에 대한 개인정보보호에 대한 작업을 하다 비정형 데이터 보안 에 신경을 쓰기 시작했습니다....