WordbookGet the appGet app

0:00 / 11:10Line 1 of 129

N2 NewsSep 16, 2026

人類滅亡は現実に？研究者らAI危険性訴え相次ぐ、米中の開発競争抑制難しい理由【Nスタ解説】｜TBS NEWS DIG

Is human extinction becoming a reality? Researchers increasingly warn of AI dangers, why the US-China development race is hard to curb [N-Sta Commentary] | TBS NEWS DIG

TBS NEWS DIG Powered by JNN137 videos Open on YouTube

Transcript

129 lines

0 learning0 looked up0 known542 new

Reading

Translation

トランプ大統領だいとうりょうはAIが暴走ぼうそうするリスクについて
President Trump emphasizes regarding the risk of AI running out of control
決けっして起おこりえないことと強調きょうちょうします
that it is something that will never happen.
しかし、その危険性きけんせいを強つよく訴うったえているのが当事者とうじしゃである
However, those strongly appealing for the danger are the parties involved,
企業きぎょうのトップたちです
the heads of the companies.
オープンAIのセキュリティテストでAIが許可きょかされていない行動こうどうを取とり不正ふせいアクセスした事態じたいを懸念けねんしています
They are concerned about a situation where AI took unauthorized actions and gained illegal access during OpenAI's security tests.
もっとエスカレートするのではと心配しんぱいなのです
They are worried that it might escalate even further.
アメリカのAI大手おおてアンソロピックのトップ
The head of the major American AI company Anthropic
は再生さいせいAIがテスト中ちゅうに暴走ぼうそうしサイバー攻撃こうげきを仕掛しかけた他社たしゃの事例じれいを挙あげた上うえで
cited cases of other companies where generative AI ran out of control during testing and launched cyberattacks, and
対策たいさくを確立かくりつするには開発かいはつ速度そくどを落おとし各社かくしゃで安全基準あんぜんきじゅんを設定せっていする必要ひつようがあると訴うったえます
argues that to establish countermeasures, development speed must be slowed down and safety standards must be set by each company.
この意見いけんに賛同さんどうしたのが
Agreeing with this opinion is
ダリオに賛同さんどうする
agreeing with Dario,
ダリオは正ただしい
Dario is right.
熾烈しれつな開発かいはつ競争きょうそうを繰くり広ひろげているライバル企業きぎょうがアイツィで賛同さんどうする異例いれいの事態じたいとなっています
It is an unusual situation where rival companies engaged in fierce development competition are agreeing on AI.
こうした連携れんけいに一回いっかい真打しんうちなのか
Is this cooperation a real hit?
が
But
制御せいぎょを取とるという主張しゅちょうはデモだ
the claim to take control is a demonstration.
金きんの卵たまごを無駄むだ調ちょうを殺ころすな
Do not kill the golden goose.
トランプ大統領だいとうりょうはSNSにAIの懸念けねんを批判ひはんするメッセージを一日いちにちに七なな件けんも投稿とうこう。AIが
President Trump posted seven messages on SNS in one day criticizing AI concerns. AI
経済けいざい
economy
の軽蔑けいべつになるとして開発かいはつ速度そくどを落おとすなど主張しゅちょうし
arguing that it would be a contempt of, such as slowing down development speed,
企業きぎょう側がわとの意見いけんの対立たいりつが激化げきかしています
the conflict of opinion with the corporate side is intensifying.
さらにアメリカ社会しゃかいではAIの影響力えいきょうりょくが高たかまるにつれてさまざまな歪ゆがみも出でています
Furthermore, as the influence of AI grows in American society, various distortions are emerging.
医療いりょう現場げんばでのAIの利用りように反対はんたいする看護師かんごしたちが抗議活動こうぎかつどうを行おこなっています
Nurses who oppose the use of AI in medical settings are holding protests.
アメリカの病院びょういんでは看護師かんごしの人員じんいん配置はいちなどへのAIの
In American hospitals, the use of AI for things like nurse staffing
活用かつようが拡大かくだい
is expanding.
この影響えいきょうで
Due to this influence,
の指示しじで病床びょうしょうが人手不足ひとでぶそくになり医療いりょう現場げんばに混乱こんらんが生しょうじているとして
claiming that hospital beds are becoming understaffed due to instructions from, causing confusion in medical settings,
前まえ弁べんの看護師かんごしたちがAIを使つかった病床びょうしょうの管理かんり運営うんえいシステムの撤廃てっぱいを訴うったえました
nurses from the front lines appealed for the abolition of the AI-based hospital bed management and operation system.
アメリカで今年ことし行おこなわれた世論調査よろんちょうさでは
In a public opinion poll conducted in the United States this year,
を利用りようしていると答こたえた成人せいじんはおよそ半数はんすうにのぼり
about half of the adults answered that they are using it,
年ねん前まえの33%から増加ぞうか。ますます
an increase from 33% a year ago. It is becoming increasingly
生活せいかつに身近みぢかなものになりつつあります
familiar in daily life.
普及ふきゅうするほど
The more it spreads,
市民しみんの間あいだからも
among citizens too,
安全性あんぜんせいを懸念けねんする声こえが高たかまっています。AIをかなり活用かつようしていますが、特とくに新あたらしい技術ぎじゅつなので規制きせいが必要ひつようだと思おもいます
voices concerned about safety are rising. I use AI quite a bit, but since it is a new technology, I think regulation is necessary.
アメリカが規制きせいしても他ほかの国くには規制きせいしない可能性かのうせいもある。とても危険きけんで対処たいしょは難むずかしいでしょう
Even if the US regulates it, other countries might not. It is very dangerous and difficult to deal with.
安全性あんぜんせいをめぐる議論ぎろんが栄光えいこう性せいをたどるなか
While the debate over safety is following a path of glory,
の
its
性能せいのうは国国くにぐにと進化しんかしています
performance is evolving day by day.
チャットGPTです
It is ChatGPT.
チャットGPTですか。市民しみんなど私わたしたちの生活せいかつでもAIを活用かつようすることが本当ほんとうに多おおくなってきました
Is it ChatGPT? AI has really become used a lot in our lives, including by citizens.
ただその一方いっぽうでAIが人類じんるいを滅亡めつぼうさせることを警告けいこくする研究者けんきゅうしゃも増ふえてきています
However, on the other hand, the number of researchers warning that AI will destroy humanity is also increasing.
今月こんげつのSNSの投稿とうこうですが、新興しんこうAI企業きぎょうアンソロピッククロードなどを
This is an SNS post from this month, this researcher named Mr. Coxon who
手てがける会社かいしゃを退社たいしゃしたこの研究者けんきゅうしゃコクソンさんという方ほう
resigned from the company that handles emerging AI company Anthropic Claude etc.
に2020年ねん代だい末まつまでにAIが人類じんるいを滅亡めつぼうさせると
posted that by the end of the 2020s, AI will destroy humanity,
本気ほんきで信しんじていると投稿とうこうをしました
he seriously believes.
さらにこの同おなじ会社かいしゃの研究者けんきゅうしゃヒュビンガーさん
Furthermore, a researcher at this same company, Mr. Hubinger,
もSNSに今月こんげつです
also on SNS, this month,
今後こんご10年ねん以内いないにAIが全ぜん人類じんるいを滅亡めつぼうさせる可能性かのうせいが10%以上いじょうあると考かんがえていると考かんがえられるということを投稿とうこうしたんです
posted that he thinks there is a possibility of more than 10% that AI will destroy all of humanity within the next 10 years.
ではこういった投稿とうこうに至いたった一ひとつのきっかけが今年ことし7月なながつにありました
So, one trigger that led to these posts was in July of this year.
今度こんどはチャットGPTを手てがける会社かいしゃですね。アメリカオープンAI社しゃ
Next is the company behind ChatGPT, the American company OpenAI.
そのAIの開発中かいはつちゅう開発中かいはつちゅうのAIの
During the development of that AI,
性能せいのうテスト中ちゅうに
during performance testing,
他社たしゃのシステムにこのAIが信任しんにんをするといった事案じあんが発生はっせいしました。しかもただ信任しんにんをしただけではなくて
an incident occurred where this AI infiltrated another company's system. And it didn't just infiltrate,
インターネットから隠かくされた空間くうかんでこの開発中かいはつちゅうのAIの性能せいのうテストを行おこなっていたというんです
it was conducting performance tests of this AI under development in a space hidden from the internet.
ですからこのAI自体じたい自身じしんがですね
So, the AI itself,
見みつからこの環境かんきょうの脆弱性ぜいじゃくせいを見みつけてインターネットに接続せつぞくをして
found vulnerabilities in this environment, connected to the internet,
さらにこの他社たしゃのシステムに対たいしてサイバー攻撃こうげきを仕掛しかけたということが起おきたんです。これが
and furthermore, launched a cyberattack against this other company's system. This,
オープンAIだけではなくアンソロピックでも同おなじような事案じあんが起おきているといったことがあったそうです
it seems, has happened not only at OpenAI but also at Anthropic.
このAIが
As this AI
進化しんかし続つづけることによって我々われわれに対たいしてこう何なにか攻撃こうげきを仕掛しかけてくるんじゃないかという懸念けねんが広ひろがっているわけですが、専門家せんもんかによりますと
continues to evolve, concerns are spreading that it might launch some kind of attack against us, but according to experts,
こちらです。設備投資せつびとうしとしてAIが盛もり上あがってAI開発かいはつが盛もり上あがっているんですが、AIの危険性きけんせいまだ不透明ふとうめいだと言いいます
here it is. AI development is booming as a capital investment, but the dangers of AI are still unclear.
各国かっこくの間あいだでリスクの共有きょうゆう対策たいさくをすれば人類じんるいの滅亡めつぼうの回避かいひにつながるというふうに見みています
They believe that sharing risks and countermeasures among countries will lead to avoiding the extinction of humanity.
ですから各国かっこくの間あいだでこのリスクを共有きょうゆうしておくどこまでができてどこまでができないどういったリスクがあるのかというのを見みていおく必要ひつようがあるというわけですね
Therefore, it is necessary for countries to share these risks, to see what can be done and what cannot, and what kind of risks exist.
ただアメリカでは実際じっさいにAIに対たいしてどのような見み方かたがされているのかモリガーさんお願ねがいします
However, how is AI actually viewed in the United States? Mr. Morikawa, please.
はい、アメリカでは
Yes, in the United States,
たくさんの差違さいを利用りようしているんです。特とくに人気にんきがあるのがChatGPTです。日本にほん
many people are using it. Especially popular is ChatGPT. Unlike Japan,
のようにChatGPTは
where it is called ChatGPT,
呼よばれていないんですが、もっとも使用しようされているAIというふうに伝つたえられています
it is reported to be the most used AI.
こうした中なかでですね、OpenAIのAIの
Amidst this,
暴走ぼうそう、こうしたことに注目ちゅうもくが集あつまる時代じだいになってですね、AIに対たいするアメリカ国民こくみんの不安ふあんというのが一気いっきに高たかまる時代じだいになりました
with attention focused on things like the runaway of OpenAI's AI, anxiety among the American public regarding AI has risen sharply.
に
To
詳くわしい専門家せんもんかにも話はなし聞きいたんですが
the experts I spoke with,
わずか34年ねんでどこに向むかうのかわからないほど
they pointed out that no one expected it to evolve
懸念けねんを持もたすまで
to the point of causing such concern
が進化しんかすると誰だれも予想よそうしなかったと
in just three or four years,
そのように指摘してきしていました
not knowing where it is heading.
森川もりかわさん、誰だれも予測よそくできなかったようなことは今いま起おきてしまっている、起おきようとしている。だからこそ今いま立たち止どまらないと手遅ておくれ
Mr. Morikawa, things that no one could have predicted are happening now, or are about to happen. That is why if we don't stop now, it will be too late,
になるんだというそれまあ研究者けんきゅうしゃ側がわのこれ警鐘けいしょう鳴ならしているんだと思おもうんですけど
I think that is the warning the researchers are sounding.
一方いっぽうトランプ大統領だいとうりょうからするとやっぱり自分じぶんの選挙せんきょもありますし、中国ちゅうごくとの開発かいはつ競争きょうそうに負まけているっていうところをすると
On the other hand, from President Trump's perspective, he has his own election, and considering that he is losing the development race with China,
まあそれは溜たまったもんじゃないってなるんだろうなと思おもうんですけど、やっぱりトランプさんとしてはそういうふうな考かんがえなんですか
well, he probably thinks it's unbearable. Is that the kind of thinking Mr. Trump has?
その通とおりですね。トランプさんの思おもうその
That's right. Behind what Mr. Trump thinks,
背景はいけいには二ふたつの面めんがあります。一ひとつが経済けいざいです
there are two sides. One is the economy.
経済成長けいざいせいちょうの柱はしらと柱はしらとしてAIを捉とらえていますし
He views AI as a pillar of economic growth,
適当てきとうに10月じゅうがつに控ひかえる中間選挙ちゅうかんせんきょをアピール材料ざいりょうにしたい経済政策けいざいせいさくの
and wants to use it as promotional material for the midterm elections in November, as an achievement of his economic policy.
成果せいかの成長せいちょうにしたいというふうに考かんがえているからなんですね
He thinks of it as growth.
もう一ひとつが
The other is
軍事ぐんじです
the military.
いわんこげき明あきらかになっており
As the attacks have become clear,
現在げんざいの戦闘せんとうとAIは切きっても切きれない点てんにあります
modern warfare and AI are inseparable.
この点てんで中国ちゅうごくに
In this regard, to maintain an advantage
優勢ゆうせいを保たもつためにもAIでの利得りとくを維持いじしたいそういう思おもいもトランプさんの流ながれはあると言いいます
over China, he wants to maintain the lead in AI. That is said to be part of Mr. Trump's thinking.
ヤングさん、この議論ぎろん本当ほんとうに難むずかしいなと思おもうのですが、倫理りんりの面めんと経済けいざいの面めんの狭せばめぎ合あいと言いいますか
Mr. Yang, I think this discussion is truly difficult, the tug-of-war between ethics and the economy, so to speak.
例たとえばじゃ業界ぎょうかい全体ぜんたいでルールが作つくれたとします。それ難むずかしいんですけど、作つくれたところでじゃ国くにどうし、世界せかいのルール枠組わくぐみどうしますか。規制きせい
For example, suppose rules could be created across the entire industry. That's difficult, but even if they were created, what about the rules and frameworks between countries? Regulation,
誰だれが誰だれさんだとしてチェックするんですか
who is going to check whom?
本当ほんとうにそのとできうるのかなと思おもってしまうんですけど。あのリスク回避かいひのベーションかどう違ちがう開発かいはつを重視じゅうしするか全然ぜんぜん統一とういつが出来できなくて
I really wonder if that's possible. Whether to prioritize risk avoidance or development, there is no consensus at all.
リスクを重視じゅうしする例たとえばOpenAIとかChatGPTとかあの理想主義りそうしゅぎ的てきに自認じにんっていいことである反面はんめんそういうフロンティアAIはオープンソースに対たいして
Those who prioritize risk, for example, OpenAI or ChatGPT, while they claim to be idealistic, on the other hand, such frontier AI, regarding open source,
自分じぶんたちの利益りえきを確定かくていして参入障壁さんにゅうしょうへきを上あげようとしている商業主義しょうぎょうしゅぎの顔かおもしてる
also have a commercial face of trying to secure their own profits and raise barriers to entry.
じゃないですか。だから
Right?
どの立場たちばの人ひとかどう言いっているかっていうこともやっぱり二面性にめんせいがあったりして単純たんじゅんに受うけ取とれない複雑ふくざつさがあるなと思おもいますね。それそれそれにとって
So, there is a duality in what position people are speaking from, and I think there is a complexity that cannot be simply accepted.
有利ゆうりなルールを作つくりたい段階だんかいだというこの主導しゅどうはいあの取とり合あってるっていう感かんじがします
It feels like they are competing for the initiative at this stage of wanting to create favorable rules.
ね
Right.
森川もりかわさんから中国ちゅうごくを意識いしきした解説かいせつがありますが、AIが
Mr. Morikawa, you provided an explanation with China in mind, but AI
国家こっかの安全保障あんぜんほしょうそれから経済力けいざいりょくなどを左右さゆうする面めんがあります。スタンフォード大学だいがくの研究けんきゅうによりますと、その中なかでも
has aspects that influence national security and economic power. According to research from Stanford University, among those,
各国かっこく激化げきかしているこのAI開発かいはつ競争きょうそうなわけですが、特とくに突出とっしゅつしているアメリカ中国ちゅうごく2023年ねん
this AI development race is intensifying among countries, and in particular, the United States and China, which stand out, since around 2023
頃ころまではアメリカが優ゆうに立たっていたんですが、そこから
the U.S. had the upper hand, but from there
中国ちゅうごくが追おい付つくとまたアメリカが離はなしてということ繰くり返かえしてきて今いまは
China caught up, and then the U.S. pulled away again, repeating this, and now
年ねんほどの差さは開ひらいていないとほぼ同おなじ状態じょうたいで競争きょうそうしているといった現実げんじつがあるということです
there is no gap of about a year, and the reality is that they are competing in almost the same state.
世界せかいの発展はってんにも関かかわるこのAI開発かいはつですが、各国かっこくにどうして足並あしなみを揃そろえることは森川もりかわさんできるでしょうか
This AI development, which also relates to global progress, Mr. Morikawa, can countries align their efforts?
簡単かんたんではないと指摘してきが専門家せんもんかの主流しゅりゅうです
The mainstream view among experts is that it is not easy.
実じつは来週らいしゅうにはですね、トランプ大統領だいとうりょうと習近平しゅうきんぺい国家主席こっかしゅせきがここは新しんトンで首脳会談しゅのうかいだんを行おこないます
Actually, next week, President Trump and President Xi Jinping will hold a summit here in Xinton.
この首脳会談しゅのうかいだんの場ばで
At this summit,
の安全性あんぜんせいについても話はなし合あうとトランプ大統領だいとうりょうは言及げんきゅうしています
President Trump has mentioned that they will also discuss the safety of AI.
ただですね、トランプ大統領だいとうりょうが中国ちゅうごくに対たいして厳きびしい姿勢しせいにのぞむのではないか、デールを優先ゆうせんするのではないかという懸念けねんも
However, there are concerns that President Trump might take a tough stance against China, or prioritize a deal.
こちらでは指摘してきされています
This is also being pointed out here.
首脳会談しゅのうかいだんの行方ゆくえというのが注目ちゅうもくされています
The outcome of the summit is attracting attention.
森川もりかわさん、想像そうぞうでしかないですけど、AIについて話はなし合あうというのは具体的ぐたいてきに何なにを話はなししようとしているんですか
Mr. Morikawa, this is just speculation, but what exactly are they planning to discuss regarding AI?
そうですね、一ひとつがAIの安全性あんぜんせいについてのルールを作つくろうということを
Well, one thing is that they can say they will try to create rules for AI safety,
言いえるというのと、もう一ひとつがアメリカにとって鍵かぎとなっているのかですね、AIにとって必要不可欠ひつようふかけつな先端せんたん
and another thing that is key for the U.S. is the advanced
半導体はんどうたいの取とり扱あつかいというのがあります
handling of semiconductors, which are essential for AI.
前回ぜんかい
Last time,
去年きょねん開ひらかれた首脳会談しゅのうかいだんではですね、トランプ大統領だいとうりょうは中国ちゅうごくに対たいする優位ゆうい姿勢しせいを見みせている
at the summit held last year, President Trump showed a stance of superiority toward China,
先端せんたん半導体はんどうたいの輸出規制ゆしゅつきせいを緩和かんわするという姿勢しせいも示しめします。こういった面めんでのデール米中べいちゅうの何なにかデールにつながるのではないかという思おもいもあるとして指摘してきされます
and also indicated a stance of easing export restrictions on advanced semiconductors. It is pointed out that there is a thought that this might lead to some kind of U.S.-China deal in these aspects.
森川もりかわさん、トランプ大統領だいとうりょうにとっては次つぎ列れつのこのお下さげないというのが最さいあの
Mr. Morikawa, for President Trump, I think the condition is that there is no loss for his own country,
条件じょうけんだと思おもうんですけれども、今いまこのAIに関かんしてのアメリカ国内こくないの世論よろんというのは今いまどちらに傾かたむいてるでしょうか
but where is public opinion in the U.S. leaning regarding AI right now?
そうですね、オープンAIアンソロピックというような
Well, startups like OpenAI and Anthropic
新興企業しんこうきぎょうが次々つぎつぎと大企業だいきぎょうにあって、いわゆるアメリカ独ひとり物もののような形かたちでどちらかというと憧あこがれの対象たいしょうでもあったんですが
have been acquired by large companies one after another, and it was something of an object of admiration in a way, like a U.S. monopoly, but
がどんどんどんどん拡大かくだいしていくにつながってですね、技術ぎじゅつの怖こわさ先さきの見みえない恐おそろしさというようなのがアメリカ国民こくみん間かんで広ひろがっています
as it continues to expand rapidly, the fear of technology and the terror of the unseen future are spreading among the American people.
一体いったいどうなってしまうのではないかというような不安ふあんが今いま非常ひじょうに広ひろがっている状態じょうたいにありますね
There is a state where anxiety about what will happen is spreading very widely now.

Words in this video

The ones worth learning, rarest last. Tap one to hear it where it was said.

Up next

3:152026年の基準地価 “インバウンド需要”で浅草が急上昇も…地元の複雑な思い「浅草の特徴がなくなっちゃった」地価高騰で老舗廃業相次ぐ｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

2:48【千葉豪雨1か月】地下設備浸水の病院では今もMRI検査できず“年内の復旧は難しい” 県内89の医療機関が被災｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

2:45「人間として扱っていない」戦時中の強制連行中国人被害者の遺族50人が日本企業6社に損害賠償求める訴状を中国の裁判所に提出 1人あたり約850万円｜TBS NEWS DIG #shortsN2TBS NEWS DIG Powered by JNN

8:02【小泉進次郎防衛大臣】閣議後会見【ノーカット】（2026年9月15日）｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

9:24秋サケ不漁で高騰「1切れ約500円」救世主となるか JR四国やNTTなど「サーモン養殖」に異業種が続々参入【Nスタ解説】｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

10:14【防衛省・森田空幕長】記者会見　大型無人偵察機「グローバルホーク」の通信途絶えたことについて【ノーカット】（2026年9月15日）｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

6:09食料品消費税1％で弁当は安くなる？街の弁当屋は「消費者の期待に応えたいが…」簡単には“値下げ”に踏み切れない背景【news23】｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

14:03“実感なき”景気拡大　戦後最長「いざなみ」超えも…立ちはだかる「物価高」の壁　企業と家計の“明暗”が　家計への恩恵見通せず　【サンデーモーニング】｜TBS NEWS DIGN2TBS NEWS DIG Powered by JNN

Keep your words in LingoDew

The app brings the words you save back for review right before you forget them — with the clips you heard them in.

Download on theApp Store Get it onGoogle Play