'2025/02/04'에 해당되는 글 1건

2월 3일 뉴스입니다.

생성형 AI 활용 느는데 보안 우려는 '여전'

국내 기업들이 생성형 AI 도입을 가속화하는 가운데, 보안 우려로 LLM 전문 보안 솔루션 필요성이 대두되고 있다.
- 국내 기업 절반이 생성형 AI를 업무에 도입했으며, 데이터 분석 및 고객 서비스 분야에서 가장 많이 활용됨.
- 기업들이 가장 우려하는 보안 문제는 민감한 데이터 유출(64.5%)과 시스템 신뢰성 부족(20.6%)임.
- 정보 유출 및 데이터 손실 우려가 79%로 높게 나타남.
- LLM 보안 솔루션의 필요성에 87%가 공감하며, 민감 데이터 차단 기능이 가장 중요한 고려 사항으로 꼽힘.
- 이스트시큐리티는 민감정보 보호, 실시간 위협 대응 및 업무효율 증대를 위한 LLM 보안 솔루션 도입을 강조함.

“VPN 보안을 완성하는 핵심 기능” 킬 스위치가 꼭 필요한 이유

VPN 보안을 강화하려면 킬 스위치 기능을 포함한 추가 보안 옵션을 고려해야 한다.
- VPN은 데이터 보안과 지역 차단 우회 두 가지 주요 목적으로 사용됨.
- VPN 사용 시에도 해커가 우회 공격을 시도할 수 있으며, iOS VPN의 보안성 문제도 제기됨.
- 터널비전 공격을 통해 VPN 보호를 무력화할 가능성이 있음.
- VPN 연결이 끊어질 경우 데이터를 보호하기 위해 킬 스위치 기능이 중요함.
- 일부 VPN 서비스는 킬 스위치를 지원하지 않거나 운영체제별로 차이가 있음.
- 강력한 VPN 서비스를 선택하고 추가 보안 옵션을 활용하면 더욱 안전한 인터넷 환경을 구축할 수 있음.

‘CISO도 알아야 할’ 수사·첩보 기관들의 기기 암호화 파훼법

사법 당국이 암호화된 기기와 데이터를 해독하는 다양한 기술을 활용하고 있어 보안 담당자의 주의가 필요하다.
- 법 집행 기관은 암호화된 기기에 접근하기 위해 다양한 전통적 및 기술적 방법을 활용함.
- 일부 국가에서는 법적으로 피의자에게 비밀번호 제공을 요구할 수 있음.
- 기기 압수 시 잠금 해제 상태를 이용하거나 감시 기술을 활용해 암호 입력 순간을 포착하기도 함.
- 무차별 대입 공격, 사전 공격 및 사회 공학적 기법을 이용해 암호를 추정하는 방법이 있음.
- 취약점을 악용해 암호화를 우회하는 기법도 사용되며, 제로데이 취약점이 주요 수단으로 활용됨.
- 최신 윈도우 11 시스템에서도 보안 부팅을 우회하는 새로운 공격 기법이 시연된 바 있음.
- 보안 담당자는 기기 및 데이터 보호를 위한 추가적인 보안 조치를 검토해야 함.

이준호의 사이버보안 이야기 <27> 딥시크(Deepseek)의 도전과 생성 AI 시...

AI 스타트업 딥시크의 혁신이 AI 시장을 변화시키지만, 개인정보 보호 논란이 제기되고 있다.
- 딥시크는 'DeepSeek-V3' 모델을 공개하며 AI 시장에서 새로운 경쟁 구도를 형성하고 있다.
- 오픈소스 AI 모델 배포로 AI 기술의 민주화가 촉진되고 있다.
- AI 데이터 수집 방식이 개인정보 보호 문제를 야기할 수 있다.
- 딥시크의 사용자 데이터 수집 및 중국 내 저장 방식에 대한 신뢰 문제가 대두되고 있다.
- 일부 국가 및 기관에서 딥시크의 AI 사용을 제한하거나 조사에 착수했다.
- AI 모델이 무분별하게 개인정보를 학습할 경우 유출 위험이 커질 수 있다.
- AI 기업은 데이터 수집 투명성과 개인정보 보호 조치를 강화해야 한다.
- 사용자, 기업, 정부가 함께 AI 발전과 개인정보 보호의 균형점을 찾아야 한다.

과징금 폭탄에 경영 부담까지...'개인정보 보호 리스크' 핀테크, 노심초...

핀테크 업계에서 개인정보 보호 리스크가 주요 경영 과제로 떠오르며, 개보위의 제재가 강화되고 있다.
- 카카오페이는 고객 동의 없이 개인정보를 국외로 유출해 과징금 처분을 받았다.
- 개인정보위는 출범 이후 금융권의 개인정보보호법 위반 사례를 지속적으로 적발하고 있다.
- 핀테크 업체들은 개인정보 보호 강화를 위해 전담팀 운영 및 보안 시스템을 구축하고 있다.
- 토스는 ISO 27001/27701, PCI-DSS 등 보안 인증을 획득하고 악성 앱 탐지 시스템을 운영 중이다.
- 뱅크샐러드는 개인정보 접근 차단, 별도 인증수단 적용 등 기술적 보호조치를 강화하고 있다.
- NHN페이코와 네이버 파이낸셜은 내부망 분리 및 개인정보 암호화를 법령 이상 수준으로 적용 중이다.
- 개보위는 금융당국과 협력해 개인정보 보호법 적용 범위를 조사하고 처분을 강화할 계획이다.
- AI 시대에 적합한 법체계를 마련해 신산업 혁신과 개인정보 보호의 균형을 유지하려는 움직임이 있다.

[기고] 원본 데이터 AI 활용 특례, 신기술 혁신 속도와 수요 반영해야

자율주행 AI 개발을 위해 원본 영상정보 활용을 허용하는 실증특례 제도가 도입되었으나, 규제 유예 기간 한계로 인해 사업자들의 적극적 활용이 어려운 상황이다.
- 자율주행 AI 학습에는 보행자 얼굴, 차량번호 등 개인정보 포함 영상정보가 필요하다.
- 현행 개인정보 보호법상 AI 학습을 위해서는 정보주체 동의 또는 가명처리가 필요하다.
- 실증특례 제도는 신기술 검증을 위해 일부 규제를 유예해 주는 방식이다.
- 개인정보보호위원회는 AI 개발을 위한 원본 데이터 활용을 허용하는 특례 규정을 추진 중이다.
- 기존 실증특례는 최대 4년까지만 규제 유예가 가능해 사업 지속성이 부족하다.
- AI 개발 사업자의 '정당한 이익'과 '공익'을 고려하도록 해 오히려 활용이 제한될 가능성이 있다.
- 위원회의 심의·의결 및 사후 점검 체계가 특례 활용 여부에 중요한 요소로 작용할 전망이다.
- 패스트트랙을 통해 승인 기간 단축이 가능하나, 사후 관리가 지나치면 사업자의 부담이 커질 우려가 있다.

[비즈&트렌드] '1시간 작업을 1분 만에'‥생성형AI 도입

국내 대기업들이 생성형 AI를 도입해 업무 효율성을 높이고, 내부망 활용을 통해 보안성을 강화하고 있다.
- SK텔레콤의 '에이 닷' AI가 디자인 및 콘텐츠 제작 업무에 활용되고 있다.
- LG의 '챗엑사원' AI는 14개 직무의 맞춤형 업무 지원 기능을 제공한다.
- 생성형 AI를 활용하면 조사 및 서류 작업 시간이 획기적으로 단축된다.
- 재무 분야에서도 AI를 통해 실시간 분석 및 예측이 가능해지고 있다.
- 삼성은 자체 AI '가우스'를 고객상담 업무에 도입해 활용 중이다.
- 기업들은 보안 문제를 해결하기 위해 자체 생성형 AI를 개발해 내부망에서 운영한다.
- LG와 SK는 자사 AI 기술을 외부 시장에도 판매할 계획이다.
- 생성형 AI 도입이 확대되면서 업무 효율성과 보안성이 동시에 강화되는 추세다.

[칼럼] 데이터가 새로운 시대의 원유다

데이터는 21세기의 원유로 불리며, 현대 산업과 경제의 핵심 자원으로 자리 잡고 있다.
- 데이터는 현대 사회를 움직이는 필수 자원으로 경제적 중요성이 크다.
- 원유와 데이터는 가공을 통해 가치가 창출된다는 점에서 유사하다.
- AI, IoT, 스마트폰 등에서 생성되는 데이터량이 급증하고 있다.
- 자율주행, 스마트 농업, 건축 등 다양한 산업에서 데이터가 핵심 역할을 한다.
- 정부는 데이터를 활용한 정책 설계 및 행정 효율화를 추진하고 있다.
- 싱가포르는 '스마트네이션' 전략으로 데이터 기반 도시 관리를 시행 중이다.
- 기업들은 데이터 분석을 통해 생산성을 향상하고 비용을 절감하고 있다.
- 데이터 보호 및 독점 이슈 해결이 디지털 경제의 중요한 과제가 되고 있다.

‘AI 법’ 본격 시행하는 EU… 韓은 반쪽짜리 법안 ‘우려’

EU가 AI 기본법에서 규정한 '위험성 높은 AI 시스템' 전면 금지 조치를 본격 적용하며, 한국도 AI 기본법을 통과시켰으나 후속 조치가 필요하다.
- EU는 '용납할 수 없는 AI'를 전면 금지하며, AI의 위험도를 4단계로 구분하여 규제 적용.
- 사회적 점수 평가, 기만적 조작, 취약 계층 악용, 외모 기반 범죄 예측 등 AI 기술 사용 금지.
- 생체 데이터 기반 개인 특성 추론, 공공장소 실시간 생체 인식, 직장 및 학교 내 감정 분석 AI 금지.
- 규제 위반 시 최대 3500만 유로 또는 연 매출 7%의 벌금 부과, 본격 시행은 8월부터.
- 생성형 AI 포함 범용 AI(GPAI)에 대한 규제도 오는 8월부터 적용 예정.
- 한국은 지난해 12월 AI 기본법을 통과시켰으나, 시행령 마련 등 후속 조치가 필요.
- AI 기본법은 고영향 AI를 규정하고 개발사의 신뢰성 확보 의무를 부과하나, 구체적 기준 부족.
- 생성형 AI에 대한 규제가 미흡하여, EU의 AI액트와 차이가 존재함.

생성형 AI 활용 느는데 보안 우려는 '여전' 국내 기업이 생성형 인공지능(AI) 도입에 속도를 내고 있지만, 내부정보 유출 등 보안 우려가 여전히 큰 것으로 나타났다. 거대언어모델(LLM) 활용이 업무 효율 제고를 위해 거스를 수 없는 흐름인 만큼 LLM 전문 보안...

<보안뉴스>

<IT소식>