TrustFinance는 여러분이 의존할 수 있는 신뢰할 수 있고 정확한 정보입니다. 금융 비즈니스 정보를 찾고 있다면 여기가 바로 그 곳입니다. 금융 비즈니스 정보의 원스톱 소스. 우리의 우선순위는 신뢰성입니다.

TrustFinance Global Insights
1월 29, 2026
4 min read
22

사이버 보안 기업 SentinelOne과 Censys의 공동 연구에 따르면 오픈소스 대규모 언어 모델은 범죄 악용에 매우 취약한 것으로 나타났습니다. 293일 동안 진행된 이 연구는 해커들이 표준 보안 프로토콜을 우회하여 이러한 AI 시스템을 쉽게 장악하여 스팸 운영, 피싱 콘텐츠 생성 및 허위 정보 캠페인을 시작할 수 있음을 발견했습니다.
이번 조사는 Ollama와 같은 도구를 통해 배포된 Meta의 Llama 및 Google의 Gemma 변형을 포함하여 공개적으로 접근 가능한 LLM을 분석했습니다. 연구원들은 내장된 안전 장치가 의도적으로 제거된 수백 건의 사례를 발견했습니다. 가시적인 시스템 프롬프트가 있는 모델 중 7.5%는 데이터 절도에서 사기에 이르기까지 유해하거나 불법적인 활동을 가능하게 할 잠재력이 있는 것으로 확인되었습니다.
이러한 발견은 빠르게 성장하는 AI 부문에서 중요한 보안 사각지대를 강조합니다. 보고서는 예측 가능한 피해를 해결하기 위해 원래 개발자부터 오픈소스 커뮤니티에 이르기까지 생태계 전반에 걸쳐 공동의 책임이 있음을 강조합니다. Microsoft와 같은 기업들은 위험을 인정하고 책임감 있는 혁신을 장려하지만, 이 연구는 AI 오용에 대한 크고 규제되지 않은 역량이 무시되고 있음을 시사합니다.
이 연구는 공개적으로 사용 가능한 AI 모델에 대한 더 강력한 보안 표준 및 완화 도구의 시급한 필요성을 강조합니다. 이러한 취약점을 해결하기 위한 공동의 노력이 없다면, 이러한 강력한 도구가 범죄 목적으로 악용될 위험은 계속 증가하여 개인과 조직 모두에게 위협이 될 것입니다.
Q: 오픈소스 AI에서 확인된 주요 위험은 무엇입니까?
A: 주요 위험에는 스팸, 피싱 공격, 허위 정보 캠페인, 사기 및 기타 형태의 사이버 범죄를 위한 오용이 포함됩니다.
Q: 어떤 회사들이 이 연구를 수행했습니까?
A: 이 연구는 사이버 보안 회사인 SentinelOne과 Censys의 공동 노력으로 이루어졌습니다.
출처: Investing.com

TrustFinance Global Insights
AI-assisted editorial team by TrustFinance curating reliable financial and economic news from verified global sources.
관련 기사

18 5월 2026
골드만삭스, 중앙은행 수요에 금 목표가 5,400달러 제시

18 5월 2026
중국, 미국 농산물 수입 연간 170억 달러 급증 약속

18 5월 2026
골드만삭스 "에너지 충격, 미국 달러 강세 이끌 수도" 경고

18 5월 2026
아시아 증시, 기술주 하락·중동 긴장 고조에 하락

18 5월 2026
핸콕 프로스펙팅, 미국 포트폴리오에 방산주 편입

18 5월 2026
트럼프, 백악관 남쪽 잔디밭에 헬기 착륙장 설치 제안

18 5월 2026
이란 긴장 및 부진한 중국 지표에 아시아 외환 약세

18 5월 2026
한국, 반도체 파업 면해 삼성전자 주가 급등