ニュース日本のサイバーセキュリティの専門家は 4 月 21 日に、悪意のあるソフトウェア (マルウェア) の悪意のあるコードを作成するために ChatGPT が使用される可能性があると警告しました。

この最新の発見は、ソフトウェア開発者によって適用されたセキュリティ対策が完全に破られる可能性があることを再び示しています。ChatGPT は悪意のある目的で簡単に使用でき、ハッカーの「ヘルパー」ツールになる可能性があります。
4 月 21 日、東京の南にある神奈川県横須賀市は、同市のすべての役所で ChatGPT の試験運用を開始しました。 このチャットボットのアプリケーションを公共部門の活動に取り入れた自治体は、日本で初めてです。

三井物産セキュア ディレクションのアナリストである吉川隆氏によると、ChatGPT は、爆弾の作り方やコンピューター ウイルスの作成方法に関する指示を求めるなど、非倫理的な使用を拒否するように訓練されていますが、この制限の要件は常に「回避」できます。 . ChatGPT をインタラクティブな開発者モードで実行する必要があります。

その結果、ランサムウェアのコードを作成するコマンドを受信すると、ChatGPT はわずか数分でリクエストに応答し、テスト コンピューターに悪意のあるコードを即座に感染させることができました。

コンピューターがランサムウェアに感染している場合、システム内の他のコンピューターも同じ状況にある可能性があります。 完全に日本語での会話のおかげで、わずか数分でソフトウェア ウイルスが開発される可能性があるため、これは社会に危険をもたらします。
ChatGPT の背後にある企業である OpenAI は、開発者はこのツールが悪用される可能性があるすべての方法を予測することはできませんが、フィードバックに基づいてより安全な人工知能 (AI) を実際のアプリで作成できると述べています。
AIを搭載したチャットボットが犯罪率の増加と社会の分断のリスクをもたらすという広範な懸念の中で、各国当局は、効果的な制御手段と厳格さを採用するために議論する努力を求めています.

このテーマに関する議論は、2023 年 5 月に広島で予定されている G7 サミットの枠組みの中で、また他の国際フォーラムと同様に促進される。

2023 年 4 月下旬に群馬県高崎市で開催される 2 日間の会議で、G7 情報技術大臣は、研究を加速し、情報システムのガバナンスを強化するための継続的な取り組みについて話し合う予定です。
2022 年 12 月、ChatGPT – サンフランシスコを拠点とする企業 OpenAI (USA) によって開発され、ローンチからわずか 1 か月で 1 億人のユーザーに到達しました。 AI を搭載したチャットボットは、エッセイ、詩、またはコードをオンデマンドで数秒で作成できることで注目を集めていますが、詐欺のリスクや多くの業界を陳腐化させるという懸念も生じています。

サイバー犯罪者は、AI を「だまして」悪意のある目的に使用し、そのコンテンツをダークウェブで共有するために使用できるコマンドを探しており、サイバースペースでの航空犯罪のリスクの増加について多くの人が懸念を抱いています。