삼성전자는 2025년 9월 9일, 갤럭시 AI에 적용된 새로운 개인정보 보호·보안 설계 방향을 공개하며 사용자 데이터 통제권 강화를 강조했다. 이번 발표에서는 온디바이스(기기 내) 처리 확대, 클라우드 선택권 유지, 직관적 보안 대시보드와 자동 차단 기능 등 사용자가 직접 데이터 활용 여부를 결정하도록 하는 여러 도구가 소개됐다. 삼성은 특히 민감한 입력이 기기를 벗어나지 않도록 설계된 기능들을 내세우며 장기간 저장이나 AI 학습 목적의 데이터 사용을 배제한다고 밝혔다. 기업은 투명성·선택권을 우선 원칙으로 삼아 모바일 AI 사용의 신뢰성을 높이겠다고 설명했다.
핵심 사실 (Key Takeaways)
- 갤럭시 AI의 핵심 기능(예: Live Translate, Interpreter, Audio Eraser)은 기본적으로 온디바이스에서 처리돼 입력 데이터가 기기 외부로 전송되지 않는다.
- 생성형 편집(Generative Edit)은 기본적으로 클라우드에서 실행되지만, 사용자가 원할 경우 온디바이스 처리 선택이 가능하다.
- ‘향상된 인텔리전스(Advanced Intelligence)’ 설정으로 사용자는 클라우드 처리를 비활성화해 모든 AI 연산을 기기 내에서만 수행하도록 선택할 수 있다.
- 보안·개인정보 보호 대시보드를 통해 앱 권한, 권한 사용 현황, 데이터 공유 상태를 한눈에 확인할 수 있으며 시각적 안전 아이콘을 제공한다.
- ‘보안 위험 자동 차단(Auto Blocker)’과 ‘메시지 가드(Message Guard)’는 악성 코드·제로 클릭 공격을 사전 차단하는 기능을 수행한다.
- ‘최대 제한(Maximum Restrictions)’ 모드는 2G 서비스 차단, 안전하지 않은 네트워크 자동 연결 방지 등 추가적인 네트워크 보호 옵션을 제공한다.
- 삼성 녹스(Samsung Knox) 보안 체계와 결합해 사용자는 데이터의 클라우드 전송 여부와 저장 방식(클라우드/온디바이스)을 선택할 수 있다.
사건 배경 (Background)
인공지능 기능이 스마트폰에 급속히 확산되면서 AI가 처리하는 음성·이미지·문자 같은 개인정보가 민감한 이슈로 부상했다. 특히 사용자 경험 향상을 위해 클라우드 연산을 활용하는 사례가 늘며 데이터 이동과 저장, 재사용 가능성에 대한 우려가 커졌다. 이에 따라 제조사들은 온디바이스 처리 기술을 확대하고, 사용자가 데이터 흐름을 통제할 수 있는 UI·설정 도구를 개발해 신뢰 회복에 나서고 있다.
삼성전자는 과거부터 모바일 보안(예: Samsung Knox)을 제품 전략의 핵심으로 삼아 왔다. 최근 갤럭시 AI 도입은 기존 보안 체계 위에 AI 특유의 개인정보·처리 경로를 명확히 설명하고 선택권을 부여하는 방향으로 진화했다. 글로벌 규제 환경도 개인정보 처리에 대한 엄격한 요구를 강화하는 추세여서 제조사들이 기술·정책적 대응을 병행하는 것이 필수적이다.
주요 사건 (Main Event)
이번 발표에서 삼성은 갤럭시 AI가 제공하는 주요 기능군과 각각의 데이터 처리 위치(온디바이스·클라우드 선택)를 상세히 설명했다. 예컨대 실시간 통역 서비스(Live Translate)와 오디오 편집(Audio Eraser)은 입력된 음성·오디오 데이터를 기기 내부에서 처리해 외부 전송을 최소화한다고 명시했다. 반면 고연산이 필요한 생성형 편집은 기본적으로 클라우드에서 처리되지만, 사용자가 온디바이스 모드를 선택하면 기기 내에서 실행되도록 설계되었다.
사용자 제어를 돕는 인터페이스로는 ‘보안 및 개인정보 보호 대시보드’가 중심에 있다. 대시보드는 앱별 권한 사용 현황, 최근 데이터 접근 로그, 안전 상태 표시 등으로 구성돼 사용자가 어떤 앱이 언제 어떤 권한을 썼는지 쉽게 확인하고 권한을 회수하거나 설정을 변경할 수 있게 한다. 또한 시각적 아이콘과 단계별 설명으로 비전문가도 설정을 직관적으로 이해할 수 있도록 했다.
보안 측면에서는 ‘보안 위험 자동 차단(Auto Blocker)’이 기기 사용성을 크게 저하시키지 않는 범위에서 악성 행위를 탐지·차단한다. 승인되지 않은 앱 설치 차단, USB를 통한 불법 명령 실행 방지, 메시지 내 악성코드 사전 탐지 등 실시간 방어 기능을 포함한다. ‘메시지 가드’는 특히 제로 클릭(Zero Click) 공격 방지에 초점을 맞춰 메신저로 유입되기 전 악성 요소를 걸러낸다.
네트워크 안전을 강화하기 위한 ‘최대 제한(Maximum Restrictions)’ 모드는 사용자가 2G 등 취약한 이동통신망을 차단하고, 신뢰 수준이 낮은 Wi‑Fi에 자동 연결되는 것을 방지하는 등 네트워크 경로에서의 데이터 유출 위험을 낮춘다. 삼성은 이들 옵션을 통해 사용자가 보안 레벨을 상황과 필요에 맞게 조절할 수 있다고 밝혔다.
분석 및 의미 (Analysis & Implications)
온디바이스 AI 확산은 개인정보 유출 리스크를 근본적으로 낮추는 장점이 있지만, 기기 내부 연산에 필요한 처리능력·전력소모·저장공간 등 물리적 제약이 존재한다. 따라서 제조사는 고성능 NPU·전력효율 개선·모델 경량화 기술을 지속적으로 발전시켜야 한다. 삼성의 접근은 이러한 하드웨어·소프트웨어 통합 역량을 전제로 한다.
클라우드 선택권을 남겨둔 전략은 현실적 트레이드오프를 반영한다. 고품질의 생성형 편집이나 대규모 모델 추론은 여전히 클라우드의 계산 자원에 의존할 수밖에 없다. 사용자에게 선택지를 제공함으로써 개인정보 보호를 우선시하는 고객과 최고 성능을 원하는 고객을 함께 만족시키려는 시도로 해석된다.
정책적 관점에서 투명성·선택권 중심의 설계는 규제 준수 측면에서도 유리하다. 개인정보의 처리 위치를 명확히 하고 사용자의 동의·제어를 강화하면 유럽 GDPR 등 주요 규제 요구사항과의 충돌을 줄일 수 있다. 다만, 실제로 사용자가 설정을 충분히 이해하고 적절히 선택할 수 있도록 하는 교육·UI 설계가 병행되어야 한다.
비교 및 데이터 (Comparison & Data)
| 항목 | 온디바이스 처리 | 클라우드 처리 |
|---|---|---|
| 프라이버시 | 높음: 데이터 기기 내 유지 | 중간: 전송·저장 시 노출 가능 |
| 지연시간(Latency) | 낮음: 즉각적 응답 | 높음: 네트워크 영향 받음 |
| 연산 자원 | 기기 한정 | 확장 가능 |
| 기능 예시 | Live Translate, Audio Eraser | Generative Edit (기본) |
위 비교는 일반적 특성 요약이다. 온디바이스 처리는 즉시 응답성과 프라이버시에서 유리하지만, 대규모 모델 추론이나 고해상도 생성 작업에서는 클라우드가 우위를 보인다. 삼성의 전략은 두 방식을 병행하며 사용자가 상황에 따라 선택할 수 있도록 하는 것이다.
반응 및 인용 (Reactions & Quotes)
삼성의 발표 직후 회사 관계자는 사용자 통제권 강화 의도를 짧게 설명했다. 이 발언은 발표 문서의 요지를 요약한 것으로, 사용자 신뢰 회복을 위해 설계 단계부터 개인정보 보호를 고려했다는 점을 강조했다.
“우리는 갤럭시 AI가 제공하는 경험 전반에 개인정보 보호를 심층적으로 내재화했다.”
삼성전자 관계자(공식 발표)
업계 보안 전문가들은 기술적 진전은 긍정적이지만, 실효성을 위해선 투명한 로그·감사 기능과 외부 검증이 병행되어야 한다고 평가했다. 일부 전문가는 사용자의 선택권이 형식적일 우려를 지적하며, UI와 기본 설정(default)이 실사용에 큰 영향을 미친다고 말했다.
“온디바이스 옵션은 환영할 만하지만, 사용자 설정 흐름과 기본값이 핵심이다. 외부 감사와 투명한 기록이 필요하다.”
사이버보안 연구자(학계)
일반 사용자 반응은 실용성과 보안성 사이의 균형을 묻는 목소리로 갈렸다. 고성능 편집을 자주 쓰는 사용자는 클라우드 기반 성능을 선호할 가능성이 크고, 개인정보 우려가 큰 사용자는 온디바이스 우선 옵션을 선택할 것으로 보인다.
보조 모듈 (Explainer/Glossary)
불확실성 (Unconfirmed)
- 일부 기능의 정확한 처리 로그(예: 어떤 오디오가 언제 온디바이스로 처리되었는지)에 대한 외부 검증 가능성은 발표 자료에 구체적 근거가 부족하다.
- 클라우드 처리 선택 시 데이터 보존 기간과 내부 접근 통제 정책의 세부 항목에 대한 공개 문서는 아직 제한적이다.
총평 (Bottom Line)
삼성의 이번 갤럭시 AI 개인정보 보호 설계는 온디바이스 우선 원칙과 사용자 선택권 확대를 결합한 현실적 접근이다. 기술적 제약을 고려해 클라우드·온디바이스를 병행하는 유연한 옵션을 제공함으로써 다양한 사용자 요구를 수용하려는 의도로 해석된다. 다만 실제 보안·프라이버시 효과는 설정의 기본값, UI 설계, 외부 감사 및 운영 투명성에 달려 있다.
향후 관건은 제조사가 약속한 대로 사용자의 선택이 실제로 보장되는지, 그리고 제3자 검증을 포함한 투명한 로그·감사 체계가 마련되는지 여부다. 사용자는 설정 대시보드를 통해 권한과 처리 위치를 직접 확인·조정할 수 있으므로 업데이트 시 관련 기능을 적극 확인하는 것이 바람직하다.
출처 (Sources)
- Samsung Newsroom (공식 발표/언론 자료)
- Samsung Knox (공식 보안 플랫폼 설명)
- KISA(한국인터넷진흥원) (정부·사이버보안 권고)