今週のComplex Systemsは、最近推論工学について(文字通り)書いたばかりの@philipkielyさんとお話しします。 私たちは、企業におけるAI導入がエンジニアリングの一面としてどのようなものかについて話し合いました。

私はチャットアプリがa) 市場に出た中で最も爆発的に人気のある単一アプリの一つ、b) 主に本当の製品であるAPIの技術デモだと考え続けています。 if文やforループのような変換的プリミティブです。

if文やforループとは異なり、基盤となる基盤の変化の速度(技術としては奇妙なことに)変化の速度が(技術的には非常に)厳密に正とは言えないため、ミドルウェア層が開発されています。 だからモデルアップデートが出たときに髪をかきむしるよりは...

...大規模なインテリジェンス展開を担当するチームは、例えば各モデルをあなたのタスクに対して自動ベンチマークし、新しい挑戦者に対して事前のリクエストを処理して自動的に評価し、その後自動的に勝者を進めることができます。

これはインフラを即座に適応的に導入する機能に似ており、私には少しSF的な感覚があります。

Twitter上では、プロシューマー向けAIのユースケース、特に現代のコーディングツール(経済的に最も重要なLLM開発)が非対称的に見えると思います。現在に至るまで。企業での導入は遅れますが、10年遅れではなく、見た目も変わるでしょう。

「すべての受信箱を一気にやっていこう」という話は減り、パイロットが増え、業務部門のアプリが徐々に変革され、第二世代になると「このビジネスプロセスはLLMの存在を前提に設計したらどうなるのか」と考え始めると、本当に奇妙な状況になります。