AI倫理ポリシー・AIガイドライン支援
機密情報の生成AI入力による流出やなんでもAIによる低品質（AIスロップ）を防ぐのは難しくありませんか？
組織にあったAIの利用ルールが安全対策になります。プライバシー専門家が適材適所や従業員の責任能力やメンタルヘルスの応じたAI倫理やガイドラインを支援します。
- オリジナルAI倫理ポリシー
- AIリスク分析
- オリジナルAIガイドライン
- AIガイドラインについての研修
Claude搭載AIコーディングエージェントが9秒で企業データベース全体を削除
2026年4月にAIエージェントが本番データをすべて消去する事故がおこりました。
“Anthropic社の主力製品であるClaude Opus 4.6を搭載したAIコーディングエージェントであるCursorが、当社のインフラプロバイダーであるRailwayへの単一のAPI呼び出しで、当社の本番データベースとすべてのボリュームレベルのバックアップを削除しました。”
AIがAIに指示をして、最終目標を実施するAIエージェント。熟練の技術者が最新のAIと最新のクラウド環境で、ステージングの整理を指示したその9秒後には、AIが判断して本番環境が含まれた全データベースを削除しました。人間向けのフェールセーフがAIエージェント時代には適合していません。
ひとつのAIトラブルが企業に深刻な被害に
AIエージェントは、人間の権限を利用して、人間の数十倍の行動を瞬時に実行します。AIはリアルタイムの行動を止めることができません。人間ではためらうことについても、迷いなく実行します。また、AIには責任能力がありません。AIのテクノロジーの発展により人間の業務を自律的に実行した結果が招いたトラブルの責任は、利用者である企業にあります。
生成AIの処理能力の向上に伴い、悪意がない従業員のミスであっても企業に深刻な被害をもたらすことがあります。AIエージェントによる企業データ消去では、バックアップデータも消去されてしまいました。3か月分のレンタカーの予約注文データのすべてが消去しましたが、災害復旧用バックアップがあったため回復できました。
AIのコンテクスト誤認や暴走を防ぐには、AI機能と利用目的にあった安全な環境整備が必要です。
AI倫理とプライバシー原則でオリジナルのAIガイドライン
AIの効率化のためにトラブルで信頼を失っては本末転倒になります。「AI効率化のための活用」という方針のままでは、新サービスの未知のリスクによる被害の可能性があります。AI利用による消費者トラブルや法的問題は、運用してしばらく経過するタイムラグがあります。AI利用のリスクを防ぐための倫理原則や事業者ガイドラインから、自社にあったAIポリシーやAIガイドラインがあれば、より安全にAIを利用できます。
STEKWIREDは、TRUSTe認定機関としてOECD/GDPRプライバシー原則のコンサルティングで、AIに対応したポリシーやガイドラインの支援をしています。担当者にAI倫理やプライバシー原則の研修で認識を共有し、たとえば、プライバシー性の高い個人情報を扱っている場合のAI利用の範囲や、個人AIの利用の禁止が難しい場合にどこまでの利用を許容するか、AIの新サービスの導入はどの部門が責任を持つか、申請にするかなどについて、 AI活用の経営理念や社内の個人情報保護意識や顧客視点を取り入れ、推奨されるAIポリシーやAIガイドラインを支援します。
AIポリシーやAIガイドラインが無くて困っている
総務省の調査では、日本企業の導入懸念として「活用方法がわからない」「情報漏えいリスク」「ランニングコスト」またAIリスクの懸念があります。
つまり、AI導入をしても活用されず、ランニングコストがかかり、情報漏えいを起こしてしまったら深刻な損失になります。
AIの活用方法がわからずにランニングコストをかけたくない場合に個人用AIの利用を黙認することがある場合には、AI学習で情報漏えいが発覚した場合には取り返しがつきません。
個人AIの禁止は、システムによる強制をしない場合では、本人のマインドセットが必要になります。STEKWIREDでは受講者理解を最重視しているため少人数の参加型の研修をしているため、大規模のeラーニングには対応しておりません。
個人情報や機密情報があるセクションや個人情報のある部署のキーパーソンに重点的に教育を実施します。
お悩みに応じて、個人情報保護教育やAIガイドラインやAIプライバシーリスク分析などの他サービスを提案いたします。
AI倫理ポリシー・AIガイドライン支援
AIでユーザーデータを採否、審査、スコアリングなど評価に利用するとユーザーにはプライバシーの影響リスクがあります。このような場合には、結果について人間の介在を必要とするなどのAI倫理ポリシーを定め、AI倫理ポリシーやAIプライバシーステートメントの透明性を高めることでユーザーとのトラブルを予防します。
STEKWIREDでは、AIの利用によりユーザーとのトラブルが予期されるものについて、AI倫理原則やAI法などを研修によって取り上げ、共通の認識のもとクライアントに必要とするAI倫理ポリシーを支援します。また、AI活用の経営方針で利用者が従業員である場合には、AIサービスを採用する部門やAIを利用する従業員に安全な利用や禁止事項について、AIリスクの事例とAI事業者ガイドラインを研修によって取り上げ、業務上の個人情報や機密情報の利用や守秘義務契約、技術的な問題点などクライアントとの事情を考慮し、共通認識のもとにAIガイドラインを支援します。
生成AI活用の利用実態に応じたAI倫理ポリシー、貴社オリジナルのAIガイドライン作成、および、同時にキーパーソンや重点部門へのAIガイドラインの教育の実施も支援します。
クライアントの業界や扱う個人情報などの環境とAI利用のリスクに対して、事業の安全な成長のためのAI倫理ポリシーやAIガイドラインを、AI法やAIガイドラインをベースとしつつ、経営方針や社風、従業員の意識も考慮して策定を支援します。普及のための意識づけの教育もサポートします。
AI倫理ポリシーやAIガイドラインの未策定の不安に
価値ある個人情報を扱っているのにAIについてガバナンスがないといった中小企業の担当者のお悩みに
- プライバシー性の高い個人情報のトラブルは深刻な影響を与える可能性があります。
- 個人情報のAI処理はプライバシーに影響を与える可能性があります。
- AI利用の倫理の問題は人間に責任があります。
- AIによる評価やAIスコアリングなどは高いリスクの可能性があります。
- AIを対象としたサイバー攻撃やヒューマンエラーでトラブルに発展する可能性があります。
- ・AIエージェントなどの自律的技術のミスにより深刻なトラブルに発展する可能性があります。
AI担当者として、AIコンプライアンスやAIガバナンスの不安のご相談には、グループのAIの倫理ポリシーまた自社用のAIガイドラインが解決になるかもしれません。下記にあてはまるものがあれば、フォームよりご相談ください。
自社のプライバシーについて気になることリスクのご相談は
まずは、フォームからご相談ください。
