オープンソースAIモデルが重大な犯罪リスクをもたらす：研究

AIの脆弱性に関する主要な調査結果

サイバーセキュリティ企業SentinelOneとCensysによる共同研究により、オープンソースの大規模言語モデルが犯罪目的での悪用に非常に脆弱であることが明らかになりました。293日間にわたって実施されたこの調査では、ハッカーがこれらのAIシステムを容易に乗っ取り、標準的なセキュリティプロトコルを回避して、スパム操作、フィッシングコンテンツの作成、偽情報キャンペーンの展開を行うことができると判明しました。

セキュリティリスクの概要

この調査では、Ollamaなどのツールを通じて展開されたMetaのLlamaやGoogleのGemmaのバリアントを含む、公開されているLLMが分析されました。研究者たちは、組み込みの安全ガードレールが意図的に削除されている数百の事例を発見しました。可視のシステムプロンプトを持つモデルのうち、7.5%がデータ窃盗から詐欺に至るまで、有害または違法な活動を可能にする可能性を秘めていると判断されました。

市場と業界への影響

これらの調査結果は、急速に成長するAI分野における重大なセキュリティの盲点を浮き彫りにしています。報告書は、予見可能な危害に対処するため、元の開発者からオープンソースコミュニティに至るまで、エコシステム全体での共同責任を強調しています。Microsoftのような企業はリスクを認識し、責任あるイノベーションを推進していますが、この研究は、AI悪用のための大規模で規制されていない能力が無視されていることを示唆しています。

結論

この研究は、公開されているAIモデルに対するより強力なセキュリティ基準と緩和ツールの緊急の必要性を強調しています。これらの脆弱性に対処するための共通のコミットメントがなければ、これらの強力なツールが犯罪目的で悪用されるリスクは増大し続け、個人と組織の両方に脅威をもたらすでしょう。

よくある質問

Q: オープンソースAIで特定された主なリスクは何ですか？
A: 主なリスクには、スパム、フィッシング攻撃、偽情報キャンペーン、詐欺、その他のサイバー犯罪目的での悪用が含まれます。

Q: どの企業がこの研究を実施しましたか？
A: この研究は、サイバーセキュリティ企業SentinelOneとCensysによる共同作業でした。

出典: Investing.com