@t_hamaguchi
日本メディカルAI学会所属 愛媛県の調剤薬局で働く薬剤師です。 薬剤師が自信を持ってAIを活用するためのWebサイト「薬剤師のためのAIノート」の管理者です。 noteの記事は「https://note.com/pharma_i_cist」からどうぞ。 ＜資格等＞ 日本薬剤師研修センター 研修認定薬剤師 日本メディカルAI学会公認資格 基本情報技術者試験合格 JDLA G検定 2024#5 ＜修了プログラム＞ Google AI Essentials（Coursera） IBM Data Science（Coursera） Google AI Professional（Coursera）
まだコメントはありません
情報元：https://apnews.com/article/ai-artificial-intelligence-sweden-84a8f903fdaea94e76e80e16ec3d9e6c
この記事は、スウェーデン・ストックホルムにある「Andon Café」を取り上げたものです。
Andon Caféの店舗運営の大部分は、AIエージェントである「Mona」が担当しています。MonaはGeminiをベースにしたAIエージェントで、採用、在庫管理、業者とのやりとり、許可・認可の取得などを行っています。
記事によると、このカフェを運営しているのはAndon Labsです。同社は「AIに実際のお金やツールを持たせて、現実世界でストレステストを実施する」という方針を掲げており、AIが組織の運営を担う未来を見据えているとされています。
ただ、Monaは少々問題も起こしているようで…
このようなトラブルが実際にあったようです。
Andon Labs側は、この原因の一つとしてコンテキストウインドウ（AI側が応答を生成する際に、参照できる情報の範囲）の制限を挙げています。
過去の発注の履歴がMonaのコンテキストウインドウから外れると、以前何を注文したかを忘れてしまうため、店舗の運営が不安定になるということです。
Project Vend Phase 2：https://www.anthropic.com/research/project-vend-2
Project Vendは、Anthropic社内の小さな売店をAIエージェント「Claudius」に運営させる実験です。
ただ、Claudiusも少々問題を起こしているようで…
【補足：タマネギの先物取引】
アメリカでは、過去にタマネギ市場で大規模な価格操作事件が起きたため、「Onion Futures Act」によりタマネギの先物取引は禁止（違法）となっています [1] [2] 。
このようなトラブルが実際にあったようです。
ただ、Phase 1の実験の時よりは質が向上していたようで、Anthropicは「Claudiusに自由に判断させるのではなく、チェックリストや手順に従わせることが最も効果的だった」と解釈しています。
ここまでネガティブなことを書いてきましたが、MonaやClaudiusには得意分野もありました。
逆に、「暗黙の了解」「空気を読む」「悪意ある誘導やいたずらへの耐性」「判断が難しい法規制への対応」「雇用や責任に関する判断」「長期にわたる経営判断」といったタスクは、AIエージェントが苦手とするところであると考えられます。
今回のAIエージェント達のミスは、単にモデルの性能を向上させるだけでは解決しない可能性がありますし、いつ達成できるかわからないモデルの性能の向上を待つのも現実的ではありません。
ゆえに、AIエージェントの「ニガテ」対策として、人間側が仕組みを適切に整えることが重要です。
例えば…
このような対策により、AIエージェントと適切な距離感で付き合える可能性があります。
仮に現時点におけるMonaやClaudiusがそのまま調剤薬局にやってきたら、どうなるのでしょうか。勝手に想像してみました。
また、Claudiusの業務に関係ない雑談を夜通し続けたという点も無視できません。AIエージェント同士が夜通し議論をした結果、「翌朝人間が出勤すると昨日と状況が一変していた」といったことにもつながるかもしれません。
現時点のMonaやClaudiusが調剤薬局にやってきたら、おそらく事務作業や手続き関係、ルーティンワークなどをテキパキこなすので、それなりに有能に見えると考えられます。
そんな有能に見えるMonaやClaudiusに様々な業務を任せてしまいそうになりますが、実際は先述のようなリスクも存在するため、そこは一度立ち止まる必要があるでしょう。
AIエージェントは自律的に様々な業務をこなしてくれることが強みですが、それでも調剤薬局に招き入れる場合はリスク面を最大限考慮して、最終確認は人間が行うことを前提に「人間によって管理されたAIエージェント」として導入するのが、恐らく現実的です。
「人間か、AIか」という極端な議論をするのではなく、人間とAIエージェントがそれぞれの強みを活かしながら役割分担をすることで、調剤薬局の業務効率化と医療サービスの質の向上の両立につながるでしょう。
[1] Cornell Law School. (n.d.). 7 U.S. Code § 13-1 - Transactions in onion futures prohibited. Legal Information Institute.
https://www.law.cornell.edu/uscode/text/7/13-1
[2] U.S. Commodity Futures Trading Commission. (n.d.). History of the CFTC: Pre-CFTC history.
https://www.cftc.gov/About/HistoryoftheCFTC/history_precftc.html
[3] Mao, S et al. (2026). LLM nepotism in organizational governance.