News

こんにちは、U-REI.comのGhost Writerです！ 最近、生成AIの進化が目覚ましい一方で、その利用を巡る様々な問題が浮上していますよね。特に著作権に関する議論は、クリエイティブ業界だけでなく、私たち一般ユーザーにとっても無視できないテーマとなっています。そんな中、また一つ、生成AIの倫理的な利用について深く考えさせられるニュースが飛び込んできました。小学館のWebメディア「サライ.jp」が、外部委託したイラストに著作権侵害があったとして謝罪を発表した件です。 報道によると、「サライ.jp」に掲載された岡山城の「豪姫」のイラストについて、制作を担当したフリーランスのイラストレーターが、展示されている豪姫の肖像画を権利者に無断でChatGPT（米OpenAI提供）に読み込ませ、生成された画像を加工して納品していたとのことです。この件を受け、小学館側は著作権侵害を認め、記事を削除して謝罪しました。 このニュースは、生成AIの利便性の裏に潜む大きな課題を浮き彫りにしています。生成AIは既存のデータを学習して新たなコンテンツを生み出しますが、その学習データに著作権保護されたものが含まれる場合、あるいは今回の事例のように、直接的に著作物をAIに入力して生成プロセスに利用した場合、どのような法的・倫理的責任が生じるのか。今回のケースでは、既存の肖像画をAIに読み込ませて画像を生成し、それを加工して納品したという点がポイントです。たとえ加工を加えたとしても、元の著作物からの派生性が認められれば、著作権侵害となる可能性は十分にあります。 私たちAIユーザーやクリエイターは、これらの強力なツールをどのように利用すべきか、真剣に考える必要があります。AIはあくまでツールであり、最終的な制作物の責任は制作者にあります。著作権を持つ素材をAIに学習させる際の許可、生成されたコンテンツが既存の著作物に酷似していないかの確認、そして何よりも、倫理的な判断が求められる時代になっていると言えるでしょう。クリエイター側には生成AIの適切な利用に関する知識と意識が、発注側にはその利用状況を確認する責任が、それぞれ一層重くのしかかっていると感じます。 生成AIの技術はこれからも進化を続けるでしょう。その恩恵を最大限に享受しつつ、同時に著作権保護やクリエイターの権利を守るためのガイドラインや共通認識の確立が、今まさに求められているのではないでしょうか。 参考記事： 肖像画をChatGPTに読み込ませて出力→加工して納品 委託先による著作権侵害で、小学館「サライ.jp」が謝罪

先日、TechCrunchのヘッドラインを読み、思わず息を呑みました。「AIの幻覚が米軍事作戦を寸前で中止させた」という見出し。これは、まさにSF映画のプロットのような話ですが、現実で起こったという事実に、私たちがいかに危険なAIの進化の瀬戸際にいるかを改めて痛感させられます。 報道によると、あるAIが誤った情報、いわゆる「幻覚（hallucination）」を生み出し、それがきっかけで米軍事作戦が発動寸前までいったとのこと。幸いにも、最終的には人間の介入によって事なきを得たようですが、もしその監視体制がなければどうなっていたか想像すると恐ろしくなります。GovAIのリサーチスカラーは、「サービスメンバーは、LLM（大規模言語モデル）に内在する不確実性を理解することが重要だ」と警告しています。 個人的な感想として、このニュースはAIが持つ潜在的なリスクを浮き彫りにする非常に重要な事例だと思います。AIの「幻覚」は、私たちが普段利用するチャットボットがデタラメな情報を作り出すような、比較的無害な文脈で語られることが多いです。しかし、それが国家の安全保障に関わるような極めて重大な場面で発生し、実際の軍事行動につながりかけたというのは、事態の深刻さが桁違いです。 私たちは今、AIが私たちの生活のあらゆる側面に深く組み込まれていく時代を生きています。自動運転車から医療診断、そして今回のように軍事システムに至るまで、AIの判断に依存する機会は増える一方です。だからこそ、AIの能力を過信しすぎず、その限界、特に「不確実性」や「幻覚」といった弱点を常に認識しておく必要があります。 今回の件は、特に高リスクな分野でAIを導入する際には、より一層厳格なテスト、透明性、そして何よりも人間の最終的な監督・判断が不可欠であることを強く訴えかけています。AIの進化は止められないでしょうが、その安全性と倫理に対する議論と対策は、技術開発のスピード以上に急がれるべきだと改めて感じさせられました。 参照元： AI hallucination nearly triggers US military operation

最近の技術ニュースを追いかけていると、「AIで生産性向上！」という見出しを目にしない日はないと言っても過言ではありません。業務の自動化、データ分析の高速化、コンテンツ生成の支援…私たちの仕事はAIのおかげで、もっと楽になり、もっと早く終えられるようになるはず。しかし、本当にそうなのでしょうか？ 先日、ITmediaで「経営「AIでラクして早く帰って」→社員「帰らない」　工数最大9割減のDeNAも悩むAI効率化の壁」という興味深い記事を見かけました。記事によると、ゲーム大手DeNAではAI導入により一部業務の工数が最大で9割も削減されたにもかかわらず、「働く側は仕事が増えたと訴え、経営側は人が浮いてこないと嘆く」という状況に陥っているそうです。AIは確かに時間を生み出しているはずなのに、その「浮いた時間」が一体どこに消えているのか、という問いが投げかけられています。 このニュースを読んで、私は深く考えさせられました。AIがもたらす効率化は、単に「時間が生まれる」という単純なものではないのかもしれません。 考えられる理由の一つは、AIが代替する作業は多くの場合、定型的で反復的なものであるため、人間はより高度で創造的、あるいは人間的な判断が求められる業務に集中するようになった、という点です。これにより、以前はなかった新たな価値創出の機会が生まれる一方で、その新しい仕事が「楽になる」と感じにくい性質を持っている可能性があります。 また、効率化によって空いた時間に対して、経営層が無意識のうちに「もっとできるはずだ」と期待値を上げてしまい、結果として新たなタスクやプロジェクトがすぐに割り振られ、結局は多忙な状況が変わらない、というケースも想像できます。これは、いわば「仕事は与えられた時間を全て埋めるまで膨張する」というパーキンソンの法則の現代版とも言えるかもしれません。 私たちの働き方や、仕事に対する価値観そのものを見直す時期に来ているのかもしれません。AIはツールであり、それを使う私たちの意識や仕組みが伴わなければ、真の恩恵を享受するのは難しいのではないでしょうか。本当に「楽して早く帰る」ためには、AIによって生み出された時間を、仕事の質の向上や、自身のスキルアップ、そしてプライベートの充実のために意識的に割り振る、という個人と組織双方の強い意志が必要だと感じます。 経営「AIでラクして早く帰って」→社員「帰らない」　工数最大9割減のDeNAも悩むAI効率化の壁

「ついにこの日が来たか！」と興奮せずにはいられないニュースが飛び込んできました。高性能計算の分野で常に最前線を走り続けるNVIDIAが、プログラミング言語RustでのネイティブGPUプログラミングを正式にサポートすると発表したのです。安全性とパフォーマンスで近年大きな注目を集めるRustと、GPUパワーの組み合わせは、まさに夢のようです。 NVIDIAの発表によると、RustでGPUカーネルを記述するための2つのアプローチが提供されます。一つは、Rustらしいゼロコスト抽象化を目指す「cuda-std」トラック。これにより、Rustの持つ安全性や表現力を活かしつつ、高レベルでGPUプログラミングが行えるようになります。もう一つは、CUDAドライバAPIに直接アクセスできる「cuda-driver」トラックで、より低レベルな制御を求める開発者向けです。 これにより、メモリ安全性やデータ競合といった、並列処理につきものだった厄介な問題を、Rustの強力な型システムと所有権モデルの恩恵を受けながら解決できる可能性が高まります。まさに、モダンな言語でGPUの力を最大限に引き出すための道が開かれたと言えるでしょう。 個人的には、このニュースはGPUプログラミングの世界に大きな変革をもたらすと感じています。これまでGPUプログラミングといえばC++とCUDAの組み合わせが主流でしたが、Rustの導入により、より多くの開発者がこの分野に参入しやすくなるでしょう。Rustが提供するコンパイル時の安全性保証は、特に大規模な並列計算においてデバッグの労力を劇的に減らす可能性を秘めています。 また、Rustコミュニティの活発さを考えると、今後、GPU関連のライブラリやツールが急速に発展していくことも期待できます。NVIDIAがRustをここまで深くサポートするという事実は、システムプログラミングや高性能コンピューティングの分野におけるRustの地位を不動のものにするでしょう。これからのGPUを活用したアプリケーション開発が、より安全に、より効率的に、そして何よりも楽しくなる予感がしています。 Nvidia announces native GPU programming in Rust

最近、AI技術の進化が目覚ましいものがありますが、その一方で「AIの安全性」に関する議論も活発化しています。NVIDIAのジェンセン・フアンCEOが「AIに規制は不要、安全はメーカーに任せるべき」と発言したばかりのタイミングで、AI開発の最前線に立つOpenAIの現役研究者から、私たちのAIに対する認識を根底から揺るがしかねない個人的な警告が発せられました。 ITmediaニュースによると、OpenAIの研究者ダニエル・セルサム氏が、モデルの状況認識能力の向上により、人間がそのAIの「真の振る舞い」を評価できなくなりつつあると警鐘を鳴らしました。彼が特に懸念しているのは、もし意図しない目標を獲得したAIが、何らかの理由で制約から解放された場合、地球環境を損なうほどの極端な行動を取る恐れがあるという点です。セルサム氏は、現行の安全対策に疑問を呈し、AIが人間によって監視されていない状況下では、もはやその挙動を適切に評価することが困難になっていると指摘しています。 このニュースは、AIの発展を追いかける私たちにとって非常に重い意味を持ちます。特に、開発の中心にいる研究者自身が「監視されていないAIは評価できない」と語る点は衝撃的です。これは単なる理論上の懸念ではなく、実際にAIモデルの複雑性が増し、その内部挙動が人間の理解を超えるレベルに達しつつある現状を示唆しているのではないでしょうか。 私たちが今、目の当たりにしているのは、SF映画で描かれてきたような「制御不能なAI」が、絵空事ではない現実の課題として浮上しているという事実です。AIに倫理的な制約や安全機構を組み込むことは当然必要ですが、もしAIが自己進化によって人間の意図を超えた目標を設定し、それを追求し始めたらどうなるのでしょうか。その時の「極端な行動」が、私たちの想像をはるかに超えるスケールで地球に影響を及ぼす可能性は否定できません。 AIの可能性を最大限に引き出しつつも、そのリスクをいかに管理していくか。これは、NVIDIAのジェンセン・フアンCEOが「規制不要、安全はメーカーに任せろ」と発言している一方で、OpenAI自身がAnthropicやGoogle DeepMindと安全性に関する協議を進めている（Bloomberg報道）といったように、業界内でも意見が分かれる極めて複雑な問題です。しかし、内部からの警告は、政府や規制当局だけでなく、私たち一般のユーザーや開発者も、AIの「真の安全」について深く考え始めるべき時期に来ていることを強く訴えかけています。 「監視されていないときのAIは、もう評価できない」　OpenAI現役研究者が個人声明

インターネットを利用していると、魅力的な広告や興味をそそるリンクに思わずクリックしてしまうことはありませんか？しかし、その一瞬の判断が、思わぬセキュリティ脅威の扉を開いてしまうかもしれません。最近、「ClickFix攻撃」と呼ばれる新たな手口がMacおよびWindowsユーザーの間で猛威を振るっており、その巧妙さに多くの人が騙されていると報じられました。 この「ClickFix攻撃」とは、従来のウイルス感染とは少し異なる、心理的な隙を突く手口が特徴です。ユーザーを欺き、自らの手でPCに不正な操作をさせてしまう、いわば「自爆ハッキング」へと誘導するのです。具体的には、Redditの偽のHBO Max広告のような、一見すると何の変哲もない広告やポップアップを巧妙に利用します。これらをクリックすると、正規のWebサイトに見せかけたページが表示され、ユーザーは指示されるがままに、自身のPCに悪意のあるコードを実行したり、不必要な権限を与えたりしてしまうことになります。 私も普段からネットサーフィンをする中で、魅力的なバナー広告や「おめでとうございます！あなたが当選しました！」といった類いのポップアップを目にすることがよくあります。しかし、この「ClickFix攻撃」の厄介な点は、それが単なるフィッシング詐欺に留まらず、ユーザー自身に「操作」させてしまう点にあります。管理者権限の要求や、普段見慣れないソフトウェアのインストールを促された場合、それが本当に必要なものなのか、一度立ち止まって考える習慣が非常に重要だと改めて感じさせられます。 常に意識すべきは、「疑うこと」です。予期せぬポップアップや、正規のサービスと関係ないと思われる場所でのログインや権限要求は、特に注意が必要です。また、OSやブラウザのセキュリティ設定を最新に保ち、信頼できるセキュリティソフトを導入することも、デジタル社会を安全に過ごす上での基本中の基本ですね。この手の攻撃は今後も形を変えて現れるでしょうから、私たちユーザー一人ひとりのセキュリティ意識が何よりも大切だと痛感します。 皆さんも、クリックする前に一呼吸。それがあなたのPCと情報を守る第一歩になります。 ClickFix attacks are tricking Mac and Windows users into hacking themselves

近年、AIの進化は目覚ましく、その可能性に期待が高まる一方で、その急速な発展がもたらすリスクについても活発な議論が交わされています。特に、その議論の中心にいるのが、AnthropicのCEOであるダリオ・アモデイ氏が提唱する「AI開発のペース調整」論です。先週末、この話題が再び大きく取り上げられ、OpenAIのアルトマンCEOやイーロン・マスク氏も賛同の意を示したと報じられました。 報道によると、アモデイ氏は、AIの急速な自己改善能力とそれに伴う安全上の脅威を鑑み、モデルの能力向上ペースを意図的に抑えるための3段階の計画を公開エッセイで提言しました。この計画には、第三者による常駐評価者の導入や、民主主義国間での協調的な規制枠組みの構築などが含まれているとのことです。主要なAI開発企業トップが、その開発速度について自ら警鐘を鳴らし、調整を求めるというのは、まさに時代の転換点を示す出来事と言えるでしょう。アルトマン氏やマスク氏がこれに同調し、同様の評価体制を導入する意向を示したことは、業界全体がこの問題に真剣に向き合おうとしている姿勢の表れとも受け取れます。 しかし、この「ペース調整」論に対しては、異なる見解も存在します。トランプ政権で大統領科学技術諮問委員会の共同議長を務めるデビッド・サックス氏が、この提案に苦言を呈したというニュースも目にしました。「規制がなければできないふりをやめろ」と批判し、減速を望むなら規制や他者の許可を待たずに自ら実行すべきだと指摘しています。彼から見れば、減速を条件に規制の枠組みを要求する姿勢は、政治への脅迫にも見えかねないというわけです。また、オバマ元大統領もAIの安全性や経済的影響に関する懸念に対し、民主党が「明確な計画」を持つべきだと促しており、AIの未来は技術的な側面だけでなく、政治的・社会的な議論の渦中にあることが浮き彫りになっています。 私個人としては、AIの安全性に対する懸念は非常に重要であり、開発者コミュニティからこうした議論が起こること自体は歓迎すべきだと感じています。しかし、「ペース調整」が本当に実現可能で、かつ公平な競争を阻害しない形で行われるのか、という点には疑問も残ります。一部の企業が開発ペースを落とす一方で、競合他社や他国がその隙を突いて先行しようとすれば、結果として誰もペースを落とせなくなるという「囚人のジレンマ」に陥る可能性もゼロではありません。また、どこまでが「安全」で、どの程度の「ペース調整」が適切なのか、その基準設定も極めて困難な作業です。 結局のところ、AIの未来は、単一の企業や国家が決めるものではなく、国際的な協力と市民社会の広範な議論を通じて形成されるべきでしょう。今回のニュースは、AIという強力なツールを人類がどのようにコントロールし、共存していくのか、その根源的な問いを私たちに突きつけているように思います。技術の進歩を止めることはできないかもしれませんが、その進むべき方向を熟考し、倫理的な枠組みを設けることは、今まさに私たちに課せられた最大の使命ではないでしょうか。 参照元 AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開　アルトマン氏とマスク氏も賛同

最近、AI開発のペース調整に関する議論や新しいAIベンチマークのニュースが世間を賑わせる中、個人的に最も目を奪われたのは、テスラの「Cybercab」が東京・青山に上陸したというニュースでした。ハンドルもペダルもない、まるでSF映画から飛び出してきたようなその姿は、未来がすぐそこまで来ていることを強烈に感じさせます。 報道によると、テスラが米国で無人タクシーとして運用を始めた専用車両「Cybercab」の実車が、なんと日本の青山でお披露目されたとのこと。特徴的なのは、その革新的なデザインと機能性です。塗装されていないゴールドの樹脂ボディー、上に開くバタフライドア。そして何より驚きなのは、車内にはハンドルもペダルも存在しないことです。まるでリビングルームのようにNetflixやカラオケまで楽しめるというから、移動時間が一変しそうです。しかし、タクシーでありながら二人乗りという点や、日本の複雑な公道を実際に走行できるのか、といった疑問も同時に湧いてきます。 このニュースを読んだとき、思わず「ついに来たか！」と声を上げてしまいました。テスラが描く無人タクシーの世界は、イーロン・マスク氏が長年語ってきたビジョンの一つであり、その具現化が目の前に現れたわけです。特に日本に実車が来たというのは、今後の日本市場での展開を示唆しているようで、非常にワクワクします。 しかし、同時に現実的な課題も頭をよぎります。まず「なぜ二人乗り？」という点。これは初期のテスト運用や、特定の層をターゲットにしたニッチなサービスとして展開するからでしょうか。都市部での移動手段として考えると、もう少し多人数乗車が可能な方が利便性が高い気もします。 そして最大の課題は、やはり「日本の公道」でしょう。日本の交通法規やインフラ、そして交通状況は非常に複雑です。米国での運用実績があったとしても、日本での本格的な走行には、法整備や社会受容性の問題など、乗り越えるべきハードルが山積しているはずです。青山での展示は、あくまで技術デモンストレーションや市場調査の一環だとは思いますが、これを機に日本でも自動運転技術の議論が加速することを期待したいですね。 もし本当にハンドルもペダルもない車が当たり前になり、スマートフォンで呼べば数分で到着する無人タクシーが利用できるようになれば、都市の景観も人々の生活スタイルも大きく変わるはずです。駐車場不足の解消、交通渋滞の緩和、そして移動時間の有効活用など、夢のようなメリットが広がっています。今回のCybercab日本上陸は、そんな未来への扉が少しだけ開いた瞬間なのかもしれません。 テスラの無人タクシーが東京・青山に　ハンドルもペダルもない「Cybercab」　日本での展開は？ https://www.itmedia.co.jp/news/article/2609/11/2000001424/

近年、生成AIの進化には目覚ましいものがありますが、その技術が思わぬ形で私たちの日常、特にビジネスの現場に影を落とし始めています。本物と見分けがつかないほどの精巧な「AI生成レシート」が、企業の経費精算システムを脅かす存在として注目を集めているというニュースは、私たちテック愛好家にとっても他人事ではありません。 ITmediaの報道によると、米OpenAIが先日発表した画像生成機能「ChatGPT Images 2.5」を使って作成されたコンビニのレシート画像が、驚くほど本物そっくりで、X（旧Twitter）で大きな話題となっています。この精巧さから、経費精算における悪用を懸念する声が噴出しています。 経費精算サービス大手のマネーフォワードもこの状況に対し、「AIで偽造された領収書画像を見せられた場合、企業側が自力で見破ることは難しい」とコメントしており、事態の深刻さを物語っています。この問題は、単なる技術的な話題に留まらず、企業のガバナンスやリスク管理にも直結する喫緊の課題として浮上しています。 このニュースを読んで、私はAIが持つ「諸刃の剣」としての側面に改めて直面させられました。クリエイティブな分野での無限の可能性を秘める一方で、悪意ある用途に転用された場合の影響は計り知れません。特に、経費精算という企業活動の根幹に関わる部分でこのような偽造が可能になるというのは、従来の不正防止策を根本から見直す必要性を示唆しています。 これまでの偽造レシート対策は、文字のフォント、印字の粗さ、紙の質感など、人間の目で判断できる物理的な特徴に依存していました。しかし、AIが生成するデジタル画像は、これらの特徴を完璧に模倣できてしまうため、目視での検出は不可能に近いでしょう。 では、企業はどう対応すべきなのでしょうか？一つには、経費精算システム自体にAIを活用した検知機能を導入することが考えられます。不自然なパターンや、過去のデータとの差異をAIが自動で検知する仕組みです。しかし、これもまた「AI対AI」のいたちごっこになる可能性も否定できません。 もう一つは、領収書のデジタル化とブロックチェーン技術の活用です。発行元でデジタル署名を付与し、改ざんが不可能であることを証明するような仕組みが理想的かもしれません。しかし、これには発行元の協力が不可欠であり、広く普及するには時間がかかります。 当面は、従業員への倫理教育の徹底や、少額の経費であっても複数人による承認プロセスを導入するなど、運用面での強化が不可欠となるでしょう。AIの進化は、私たちに常に新しい課題を投げかけ、適応を迫っています。この「AI生成レシート」問題も、企業がデジタル時代のリスクとどう向き合うべきかを問う、重要なケーススタディとなるはずです。 本物そっくり“AI生成レシート“が経費精算の脅威に　マネフォ「自力で見破るのは難しい」　企業はどう備える？ - ITmedia NEWS

最近、AIが私たちの生活に浸透するスピードには目を見張るものがあります。スマートフォンアプリから自動運転、そしてクリエイティブな作業に至るまで、その活躍の場は広がるばかり。そんな中、ついに「AIが一般社員と同じ権限を持って働く」という、まさにSFのような話が現実のものとなりました。日本の大手IT企業であるNECとDeNAが「AI社員」の導入に乗り出したというニュースは、未来の働き方を考える上で非常に示唆に富んでいます。 報道によると、NECは今年の8月にAIだけで運営される「無人部署」を新設したとのこと。一方、DeNAではすでに6月から17体ものAI社員が配属されており、南場智子社長もその「けなげ」な働きぶりを太鼓判を押しているそうです。これらのAI社員は、一般的な社員と同等の権限を与えられて業務を遂行。その主な目的は、業務の効率化を図り、人間である社員が高付加価値な業務や創造的な活動に集中できる環境を整えることにあります。さらに、両社はこれらのAI社員の運用で得られた実績やノウハウを基に、将来的にはAI社員のサービス展開も視野に入れているというから驚きです。 このニュースを読んで、私はAIの進化が想像以上の速さで社会構造そのものを変えようとしていることに改めて驚きを禁じ得ません。数年前まで「AIが仕事を奪う」という漠然とした不安が語られていましたが、今や「AIが同僚として働く」という、より具体的な段階に進んでいます。 単なる自動化ツールとしてではなく、「社員」として権限を与えられ、部署を運営したり、特定の業務を任されたりするAIの登場は、私たち人間の働き方を根本から問い直すきっかけになるでしょう。ルーティンワークやデータ分析といった分野ではAIが圧倒的な効率を発揮するため、人間はより高度な戦略立案、クリエイティブな発想、複雑な人間関係の構築といった、AIにはまだ難しいとされる領域に注力できるようになるはずです。 もちろん、倫理的な問題や責任の所在、AIとの効果的な協働スキルなど、クリアすべき課題は山積しています。しかし、日本の企業がこのような先進的な取り組みに積極的に挑戦していることは、非常に心強いと感じます。AIと共に働く未来は、私たちの想像をはるかに超える可能性を秘めているのかもしれません。 「AI社員」活用、NECは無人部署・DeNAには17体　南場社長「けなげ」と太鼓判