OpenAIのCEOであるSam Altmanは、AI技術が少数の企業に集中することを、人工知能の発展における最大級のリスクの一つだと述べた。ポッドキャストRelentlessで、AIを広く利用できる自由な社会と、同じ能力を統制強化に使う権威主義的な体制という二つの可能性を示した。
Altmanによると、安全を理由に自由を制限する試みは、長期的に悪い結果を招くことが多い。そのため、人々にAIベースのツールを提供し、その使い方や意見の表明方法を自ら決められるようにすべきだとしている。
今回の発言は、高度なモデルをどこまでオープンにするべきかという議論が続く中で出た。米国の大手テクノロジー企業は、オープンウェイトモデルの配布を早期に制限することに反対する要請を支持した。こうしたシステムへのアクセスは競争を促し、少数の供給元への依存を減らすという立場だ。一方、Anthropicはより慎重な姿勢を取り、強力なモデルが悪用されるリスクを指摘している。
中国のMoonshot AIが公開したKimi K3も議論を加速させた。同社は新たな主力モデルと位置付けており、約100万トークンのコンテキストウィンドウを備え、ウェイトも公開されている。この種のモデルの人気が高まるにつれ、米国では幅広いアクセスを支持する側と、中国のAI技術に制限を求める側の対立が深まっている。
Altmanの主張は、OpenAIが最も強力なモデルのウェイトを公開していない点でも注目される。それでも本人は、経済的・政治的な権力の過度な集中を招かない限り、機械知能を広く普及させることが長期目標だと説明している。