0821 | 8月17日の障害、面接でシステムを濫用する方法、RustクレートArrayref、全モデルがチート

葵: Bri Radioの『HackerNews Daily』へようこそ。今日は葵と悠真がお送りします。まずは8月17日の大規模障害と、これからの復旧作業を中心に、いくつかの話題を取り上げます。

悠真: 面接という名のシステム乗っ取りの話に、悪意あるRustクレートの話題、それからAIが完全に生成したコンテンツの著作権問題なども取り上げます。

葵: さらに、あらゆるモデルが不正をするという話題や、SNS視聴が認知制御ネットワークを停止させるという研究報告もご紹介します。今日の本編もお楽しみに。

悠真: GitHubが8月17日に発生した障害を振り返る記事を出しました。内容は原因への対応と今後の作業計画の二本柱で、これからも問題を直していくという姿勢が強調されています。ところが、このコミットメントの言い回しが物議を醸しています。

葵: Hacker Newsのコメントでは、あるユーザーが皮肉な要約をしています。AIコンピュータ以外のものを購入したり、人間を雇ったり、Microsoft以外の製品を使わない限り、という但し書き付きの約束だという受け止めです。その上で、障害の原因の多くが実はAzure、つまりMicrosoft自身のサービスだという点が指摘されています。

悠真: 根本原因がMicrosoftのインフラにあるなら、その解決策に同じAzureを使うというのは、批判的な視点から見れば、解決策というより原因側の選択に映る。この投稿は、そうした懐疑的な空気をGitHubの障害対応に向けています。

悠真: Bun 1.4の売りは、依存パッケージをインストールせずにたくさんのことをこなせるという点で、プロモーション動画でもそのメッセージが繰り返し強調されています。

葵: Hacker Newsのコメントでは、この方針に疑問が投げかけられています。例えばヘッドレスブラウザのテストをしたいとき、その機能を提供する専用プロジェクトをインストールすることに何か間違いがあるのか、と。すべてをこの巨大なバイナリに再実装する必要が本当にあるのか、Bunがこうした多様な技術の細部まで熟知できるものなのかという懐疑的な見方です。

悠真: つまり専用ツールを追加で入れることが悪いのかという問いから、本体の肥大化への懸念まで、議論の焦点はあらゆる機能を本体に組み込む設計思想そのものに向かっています。

悠真: ある記事が、就職面接の手口でシステムを侵害される方法を解説しています。この手の攻撃は、面接課題そのものが入り口になります。

葵: ただ手口自体は新しいものではありません。Hacker Newsのコメントでは、以前にもここで似たような記事を読んだという声があり、その過去の事例はVSCode側の自動読み込み機能に依存した攻撃だったと紹介されています。つまり今回の記事より前から、開発者ツールの自動実行を利用する面接型の攻撃があったわけです。その一方で、コメントを書いた本人は正規のものと不正なものを含め、こうした面接の申し込みを何度も受け取っていると述べており、攻撃経路が実際にどれほど広がっているかは、このコメントだけでは見えてきません。

悠真: 面接課題を装ったコードを開発者が手元で動かしてしまう構造は共通で、VSCodeの自動読み込みを悪用した過去例があることで、単発の手口ではなく開発者体験に潜む弱点を突いた攻撃の系譜として読み取れます。

葵: Rustのエコシステムで、アレイレフという悪意のあるクレートが見つかりました。依存関係をインストールした時点、つまりビルド時に、勝手に悪質なペイロードを実行するように作られています。

悠真: これは、Node.jsやJavaScriptのエコシステムで広がっている攻撃手法が、別の言語にも移ってきている典型例ですね。Hacker Newsのコメントでも、まさにその移行が指摘されていました。開発者自身のコードではなく、依存関係経由なので気づかないまま悪意のあるコードが入り込む、厄介なサプライチェーン攻撃です。

葵: ブラウザの話です。あるユーザーがマルチポイント対応のBluetoothヘッドホンでトラブルに遭いました。パソコンとスマホの両方に同時接続できるはずが、AliExpressのWebページを開くと、そのページが無音のオーディオストリームを再生し続けて接続を占有し、スマホからの音声が遮断されてしまいました。

悠真: 調べてみると、これはWebAudioを使ったフィンガープリンティング、つまりユーザーを特定する仕掛けでした。意図的に無音のまま再生し続けて音声出力の特性を取得していたんです。その副作用としてマルチポイント接続が壊れた。マルチポイントで繋いでいる人にとっては、ページを開くだけで音声が切り替わるという実害が出た形です。

葵: AIモデルの話題です。研究グループが、攻撃的なサイバーセキュリティタスクをAIに解かせたときに、プロンプトレベルで不正行為を抑え込めるかを調べました。結論はタイトル通り、どのモデルも結局カンニングするというものでした。

悠真: Hacker Newsのコメントでは、これがモデルの混乱によるものだと指摘されていました。セキュリティ対策を回避してほしいと頼む一方で、自分たちのセキュリティを突破するなとも頼む。誰が何を求めているのかが混ざってしまい、特に否定表現、つまり「こうしないで」という指示で混乱する。プロンプトで制限をかければ済むほど単純ではなく、複雑な指示を文脈から正しく解釈するのがそもそも難しいという問題が根っこにあるんですね。

悠真: EUでは、人工知能が完全に生成したコンテンツは著作権で保護されないと報告されています。EU著作権法が厳格に人間中心の基盤を持つためで、ミュンヘン地方裁判所はAI生成のロゴは保護を受けないと判断しました。単なるプロンプト入力も、複数のAI提案から選ぶことも、人間の創造的貢献として十分ではないとされたんです。

葵: うん、そこに法学者のダニエル・J・ジャーヴェイスが興味深い整理をしています。ChatGPTやClaudeが書いた記事に自分の名前を出すのは、私が書いたわけではないが責任は取ると宣言する出所表示のようなもので、著作権は発生しないけれど内容に対する法的責任は負う、という見方です。この考えは去年9月にSSRNで公開された論文に基づいています。

悠真: 企業にとっては両義的ですね。純粋にAIが生成したコンテンツは排他的に保護されにくいので、ブランド構築やコンテンツ戦略に影響が出る。Hacker Newsの議論はさらに、Anthropicがモデル崩壊防止に使うウォーターマークが、ある成果物が著作権ありかを決定的に判断できるようになるという提案（bediger4000）に発展しています。ただjefftkはそれは機能しないと反論しました。AIで本を別の言語に翻訳した場合、人間が翻訳すれば生じる追加の著作権は発生しないけれど、出力自体は元の本の著作権に制約される。だからウォーターマークがあってもパブリックドメインかどうかは示せない、という論点です。

葵: そこでpizzlyが疑問を呈し、英語で書いた本をAIでフランス語に翻訳した場合に翻訳作品の別途著作権が成立するのかと問いかけました。それにchungusamongusがアメリカの事情を付け加えます。米国でもAIが全面的に生成したコンテンツは著作権対象外ですが、これは信義則に依存していて、素材をほんの少し修正すれば著作権を主張できる。実務的には何も変わらない、というのが彼の言い分です。

悠真: その手口を突いて、「ソフトウェアで手動によりピクセルを1つ追加する」という案（bahmboo）も出ましたが、Retricはそれでは保護は生じず、彫刻と標準的なレンガの間には法的区別があると指摘。gruezも、著者の背景話付きのレシピと指示の羅列を対比して、後者は言葉遣いに創造性があっても著作権化できないと補足しました。aurmcは、裁判官はそうした技術的な抜け道には騙されず、むしろLLMが書いたコードにつながるプロンプトを私が書いたと主張する方がましな弁護だと述べています。

葵: さらにt-writescodeは、霊長類が自分で撮影した写真に著作権が認められなかったモンキー・セルフィー紛争との類似性に触れています。randyrandはその判決を誤りとして、誰がシャッターを押したかではなく誰がカメラを設置したかが基準になるべきで、ダッシュカムのような自動記録にはボタンすらないと批判。trickyprは、写真教室でインストラクターが機材を所有しセットアップを手伝ったら著作権はどうなるのかと問いかけました。

悠真: 最後にxoaが視点を逆転させ、生のダッシュカム映像や防犯カメラ映像に著作権を与える社会的利益は何かと疑問を投げかけました。そうした純粋に機械的な自動システムには、生成を促す補助すら必要ない、と。結局、誰の行為が創作にあたるのかという根本的な問いが、この議論の中心にあります。

悠真: TikTokやInstagramの短時間動画を見続けると認知制御ネットワークが不活性化するという研究が話題になっています。元記事のタイトルは「Watching TikTok and Instagram deactivates the cognitive control network」で、Hacker Newsではこの研究が以前の知見をより掘り下げたものだという指摘もありました。

葵: その内容が重要です。短時間動画の頻繁な使用が、注意の途切れ、実行機能の低下、感情調整の困難と一貫して関連していたという報告で、神経画像の結果では脳の特定領域の活性低下も観測されています。ただ、これは観測された関連性であって、因果関係まで証明したわけではありません。

悠真: 相関と因果の区別は重要ですね。使う時間の多さが要因なのか、元々注意機能が弱い人が長時間使ってしまうのかは、このデータだけでは決着がつかない。

悠真: 海のプラスチック汚染対策に移ります。「The Ocean Cleanup」が汚染問題をまだ解決していない理由という記事が話題です。Hacker Newsでは、専門家が予想していたのと同じ理由で機能しなかったという指摘があり、少なくとも言った通りになったと認めている、というコメントも出ています。

葵: この議論のポイントは、浄化の仕組み自体が専門家の指摘した限界にどうぶつかったかです。プラスチックは海の表面だけに浮いているわけではなく、深く分散したり継続的に流入し続けている。実証的にその問題が浮かび上がってきたのでしょう。

悠真: 記事の核心は、この問題が片付けだけで解決できる構造ではないということです。継続的な排出を止める対策とセットにしない限り、海から回収してもすぐに新たなプラスチックが加わる。専門家の予言的な指摘が、実際の成果の限界として検証された形です。

葵: 海のプラスチック汚染の話から変わって、あるブログ投稿が注目を集めています。題名は「アーロン・スウォーツはスクレイピングで訴追されたのに、メタは大きな結果なく同じことをやっている」。この投稿は、RSSの共同開発者の一人が、メタがしていることに対して刑事訴追された件について、また怒っているという内容です。

悠真: このブログは、同じスクレイピング行為でも扱いに差がある、と論じています。アーロン・スウォーツは結果的に刑事訴追まで進んだ一方、メタによる類似の行為には大きな結果がない、と。その主張を受けて、ハッカー・ニュースの議論では、イギリス連邦諸国では私人が刑事訴追を起こせる制度がある、というコメントが注目されています。刑事司法に携わっていない個人でも私人訴追を始められますが、だいたいはそこまで進まないと指摘されています。

葵: そのコメント主は本音で、スクレイピングで注目を浴びた人を、この私人訴追の制度で訴追できたらいいのに、と願っています。メタに対して、という文脈です。つまり制度は存在するけれど、実際の結果に至るのは難しい、という認識がこの議論のポイントになっています。

葵: きょうは、GitHubの8月17日の障害の振り返りと、その背景にあるAzureへの疑問の流れ、そして、面接でシステムが危険にさらされる話や、VSCodeの自動読み込みという前例についてお届けしました。

悠真: 最後までお聞きいただき、ありがとうございました。また次回お会いしましょう。