2025-02-22 arXiv論文リスト(cs.AI)

arXiv 論文リスト

About

arXivに掲載されたcs.AIの論文を検索し、一部をリスト化したものです。

※AIによってAbstractを日本語に翻訳しており、内容に誤りがある可能性があります。

リスト件数: 63件

リストから抽出されたキーワード: Multimodal Learning, Personalized AI, Adversarial Robustness

Understanding Fixed Predictions via Confined Regions

http://arxiv.org/abs/2502.16380v1

Connor Lawless, Tsui-Wei Weng, Berk Ustun, Madeleine Udell

Stanford University, University of California, San Diego

機械学習モデルは、個人に関する特徴を使用して結果を予測するように設計されていますが、個人がそれを変えることができる方法を考慮していません。その結果、モデルは、個人が自らの結果を変える手段を否定する固定された予測を割り当てることがあります。本研究では、すべての個人が固定された予測を受け取る限られた領域を見つけることによって、固定予測を特定するための新しいパラダイムを開発します。このタスクのために、混合整数二次制約プログラミングのツールを使用して、ReVerという最初のメソッドを導入します。私たちのアプローチは、サンプル外データに対する救済を証明し、限られた領域の解釈可能な説明を提供し、実世界のデータセットで数秒で実行します。さまざまなアプリケーションにわたる限られた領域の包括的な実証研究を行います。私たちの結果は、既存のポイントごとの検証手法が限られた領域を発見するのに失敗している一方で、ReVerは確実に成功することを強調しています。

2025-02-22T23:06:10

Auto-ADMET: An Effective and Interpretable AutoML Method for Chemical ADMET Property Prediction

http://arxiv.org/abs/2502.16378v1

Alex G. C. de Sá, David B. Ascher

Baker Heart and Diabetes Institute, The University of Queensland, The University of Melbourne

機械学習（ML）は、近年の医薬品発見において重要な役割を果たしてきました。化学化合物がウェットラボ実験を通過する優先順位を付けるための（前）スクリーニングツールを提供しています。医薬品発見における主なMLタスクの1つは、化学化合物の分子構造とその活性または特性を関連付ける定量的構造-活性関係（QSAR）モデルを構築することです。これらの特性—吸収、分配、代謝、排泄、毒性（ADMET）—は、化合物の挙動、活動、そして生体内での相互作用をモデル化する上で不可欠です。いくつかの方法が存在しますが、その大多数は適切なモデルの個別化を提供せず、バイアスや新しいデータへの一般化の欠如を引き起こします。これは、化学空間が通常、アプリケーションごとに変化するため、新しいデータをモデルでテストする際に予測性能が低下することにつながります。この問題を解決するために、自動化機械学習（AutoML）の領域が登場し、そのデータに応じたカスタマイズされたMLアルゴリズムを出力します。重要なタスクではありますが、AutoMLはしばしば化学情報学や計算化学の研究者を支援するために実際に利用されておらず、関連する研究は非常に限られています。これらの課題に対処するために、本研究は化学ADMET特性予測のための解釈可能な進化的AutoML手法「Auto-ADMET」を紹介します。Auto-ADMETは、ベイズネットワークモデルと共に文法ベースの遺伝的プログラミング（GGP）手法を採用し、12の標準的な化学ADMET特性予測データセットに対して、標準GGP法、pkCSM、XGBOOSTモデルの3つの代替手法と比較して同等またはそれ以上の予測性能を達成します。Auto-ADMETの進化的プロセスにおけるベイズネットワークモデルの使用は、検索手順の形成とAutoMLの性能の原因を解釈することの両方に寄与しました。

2025-02-22T22:54:08

Does Your AI Agent Get You? A Personalizable Framework for Approximating Human Models from Argumentation-based Dialogue Traces

http://arxiv.org/abs/2502.16376v1

Yinxu Tang, Stylianos Loukas Vasileiou, William Yeoh

説明可能なAIは、AIエージェントと人間ユーザーとの間でインタラクティブな説明を促進するために、ますます論証手法を採用しています。既存のアプローチは通常、あらかじめ定められた人間ユーザーモデルに依存していますが、インタラクション中にこれらのモデルを動的に学習し、更新するという重要なギャップが残っています。本論文では、AIエージェントが論証ベースの対話を通じて人間ユーザーの理解を適応させることを可能にするフレームワークを提案します。我々のアプローチ「Persona」は、期待理論を基にしており、交換された論証に基づいて可能な人間モデルの確率分布を洗練するベイジアン信念更新メカニズムと確率重み付け関数を統合しています。適用された論証設定における人間ユーザーとの実証評価を通じて、Personaが進化する人間の信念を効果的に捉え、個別化されたインタラクションを促進し、最先端の手法を上回ることを示します。

2025-02-22T22:37:16

Personhood Credentials: Human-Centered Design Recommendation Balancing Security, Usability, and Trust

http://arxiv.org/abs/2502.16375v1

Ayae Ide, Tanusree Sharma

Pennsylvania State University

関連する概念、例えば分散型識別子（DID）、人間性の証明、匿名の認証情報に基づいて、人間性認証（PHC）が新たなアプローチとして登場しました。これにより、個人は追加情報を開示することなく、デジタルサービスプロバイダーに対して自分が人間であることを確認することができます。ただし、新しい技術はユーザーの誤解や期待の不一致により摩擦を引き起こす可能性があります。重要性が高まるにもかかわらず、PHCに関するユーザーの認識や好みに関する研究は限られています。このギャップに対処するため、私たちは競合分析と米国およびEUからの23人の参加者との半構造化されたオンラインユーザーインタビューを実施し、ユーザーのニーズ、採用ルール、好みを取り入れたPHCの具体的なデザイン提案を提供しました。我々の研究は、(a) PHCの未知のプライバシーおよびセキュリティ保証について、人々がどのように考えるかを現行の確認方法と比較して明らかにし、(b) 人々がPHCをどのように導入し管理したいかに対するいくつかの要因の影響、例えば信頼できる発行者（例：政府）、PHCを発行するための基礎データ（例：バイオメトリクス、物理的ID）、発行システム（例：中央集権型か分散型か）を示しています。思考を声に出して行う概念設計セッションでは、参加者は、定期的なバイオメトリクスの確認、期限付きの認証、視覚的にインタラクティブな人間チェック、発行システムにおける政府の監視などの概念的なデザインを提案しました。私たちは、ユーザーの好みを反映した実行可能なデザインを提案します。

2025-02-22T22:33:00

A generative approach to LLM harmfulness detection with special red flag tokens

http://arxiv.org/abs/2502.16366v1

Sophie Xhonneux, David Dobre, Mehrnaz Mohfakhami, Leo Schwinn, Gauthier Gidel

大規模言語モデル（LLM）のためのほとんどの安全性トレーニング方法は、調整によって有害なリクエストに直面したときにモデルの出力分布を劇的に変更し、安全でない応答から応答を拒否する方向にシフトさせます。これらの方法は本質的にモデルの能力を妥協させるものであり、自己回帰モデルが肯定的な応答の初期トークンを生成する攻撃に対して脆弱になる可能性があります。それを避けるために、私たちはモデルの語彙を赤信号トークン（<rf>）と呼ばれる特別なトークンで拡張することを提案し、有害なコンテンツが生成される、または生成されようとする際にこのトークンを生成するようにモデルを微調整することを提案します。この新しい安全性トレーニング方法は、会話中のすべての時点でLLMを有害度の生成分類器に効果的に拡張します。この方法は、いくつかの利点を提供します。モデルが有害性の概念を明示的に学びながら、生成された分布にわずかな影響を与えることで、モデルの有用性を維持できます。また、生成された各応答を評価するため、入力プロンプトだけでなく、サンプリングベースの攻撃に対してより強力な防御を提供します。さらに、モデルの堅牢性の評価を簡素化し、分類器と組み合わせることで相関する失敗を減少させます。私たちは、長い文脈や監視された微調整攻撃に対する堅牢性の向上も示します。

2025-02-22T21:48:48

Audio Visual Segmentation Through Text Embeddings

http://arxiv.org/abs/2502.16359v1

Kyungbok Lee, You Zhang, Zhiyao Duan

音声視覚セグメンテーション（AVS）の目的は、動画フレームから音源オブジェクトを特定し、セグメント化することです。音声視覚セグメンテーションに取り組む研究者は、手動でのアノテーションが高価であるため、限られたデータセットに悩まされています。最近の研究では、音声に応じてセグメンテーション基盤モデルSAMを促すことで、音源オブジェクトをセグメント化する能力を向上させ、限られたデータの課題を克服しようとしています。このアプローチは、SAMの事前学習された知識を利用して視覚モダリティの理解におけるモデルの負担を軽減しますが、音声視覚関係を学習するための限られたデータセットの根本的な課題には対処していません。この制限に対処するために、我々は\textbf{AV2T-SAM}という新しいフレームワークを提案します。このフレームワークは、音声特徴を事前学習されたテキストプロンプトSAMのテキスト埋め込み空間と結びつけます。我々の方法は、豊富なテキスト-画像ペアデータセットから学習した多モーダル対応を利用して、音声と視覚の整合性を強化します。さらに、我々は、音声と視覚のモダリティの共有意味を強調しながら、無関係なノイズをフィルタリングする新しい特徴、$\mathbf{\textit{\textbf{f}}{CLIP} \odot\textit{\textbf{f}}{CLAP}}$を導入します。AVSBenchデータセットに関する実験は、AVSBenchの両方のデータセットで最先端の性能を示しています。我々のアプローチは、事前学習されたセグメンテーションモデルとクロスモーダルセマンティックアライメントを効果的に利用することで、既存の手法を上回っています。

2025-02-22T21:15:44

A Survey on Mechanistic Interpretability for Multi-Modal Foundation Models

http://arxiv.org/abs/2502.17516v1

Zihao Lin, Samyadeep Basu, Mohammad Beigi, Varun Manjunatha, Ryan A. Rossi, Zichao Wang, Yufan Zhou, Sriram Balasubramanian, Arman Zarei, Keivan Rezaei, Ying Shen, Barry Menglong Yao, Zhiyang Xu, Qin Liu, Yuxiang Zhang, Yan Sun, Shilong Liu, Li Shen, Hongxuan Li, Soheil Feizi, Lifu Huang

UC Davis, University of Maryland, Adobe, UIUC, Virginia Tech, Waseda University, University of Sydney, Tsinghua University, Sun Yat-Sen University, Duke University

ファウンデーションモデルの台頭は機械学習研究を変革し、その内部構造を明らかにし、より効率的で信頼性の高い応用を開発するための努力を促しています。大規模言語モデル（LLMs）の解釈においては顕著な進展が見られましたが、対照的な視覚-言語モデル、生成的視覚-言語モデル、テキストから画像へのモデルなどのマルチモーダルファウンデーションモデル（MMFMs）は、単一モーダルフレームワークを超えた独自の解釈可能性の課題を提起しています。初期の研究にもかかわらず、LLMsとMMFMsの間には解釈可能性において大きなギャップが残っています。本調査は以下の二つの主要な側面を探ります：(1) LLMの解釈方法をマルチモーダルモデルに適応させること、(2) 単一モーダル言語モデルとクロスモーダルシステムのメカニズム的な違いを理解することです。現在のMMFM分析技術を体系的にレビューすることで、解釈可能性の方法に関する構造化された分類法を提案し、単一モーダルとマルチモーダルアーキテクチャ間の知見を比較し、重要な研究ギャップを強調します。

2025-02-22T20:55:26

Exploring Sentiment Manipulation by LLM-Enabled Intelligent Trading Agents

http://arxiv.org/abs/2502.16343v1

David Byrd

全ての経済セクターにわたる企業は、大規模言語モデルを迅速に展開し続けています。強化学習は、人間のフィードバックに基づいた言語モデルのファインチューニングとの関連性から、関心の再燃を迎えています。ツールチェーンの言語モデルは、タスク特化型のエージェントを制御します。もし逆の場合がまだ現れていないのであれば、すぐにでも現れるでしょう。本論文では、連続深層強化学習に基づくインテリジェントなトレーディングエージェントの最初の調査を紹介します。このエージェントは、大規模言語モデルを制御し、他のトレーダーが観察するソーシャルメディアフィードに投稿することができます。我々は、このようなエージェントのパフォーマンスと影響をシミュレーションされた金融市場で実証的に調査し、エージェントは生成する投稿の感情を操作することで総報酬を最適化し、したがって利益を増やすことを学ぶことを発見しました。論文は、考察、制限、および今後の研究への提案で締めくくられています。

2025-02-22T20:17:14

A Gap Between the Gaussian RKHS and Neural Networks: An Infinite-Center Asymptotic Analysis

http://arxiv.org/abs/2502.16331v1

Akash Kumar, Rahul Parhi, Mikhail Belkin

最近の研究では、無限幅の有界ノルム単一隠れ層ニューラルネットワークの関数空間帰納バイアスを、ある種の有界変動型空間として特徴づけています。この新しいニューラルネットワークのバナッハ空間は、特定のソボレフ空間やスペクトル・バロン空間など、古典的な多変量関数空間を多く包含しています。特に、このバナッハ空間には、数方向でのみ変化するような、より古典的な正則性を示さない関数も含まれています。有界な領域では、ガウス再生核ヒルベルト空間（RKHS）がこのバナッハ空間に厳密に埋め込まれることが確立されており、ガウスRKHSとニューラルネットワークのバナッハ空間との間には明確なギャップが存在することが示されています。無限境界の領域、例えば$\mathbb{R}^d$全体においてこれらの空間を調査すると、状況は根本的に異なることが分かりました。私たちは次の重要な結果を確立しました：ガウスRKHSに存在する特定の関数は、ニューラルネットワークのバナッハ空間において無限ノルムを持っています。これは、カーネル法とニューラルネットワークの間に、カーネル法がニューラルネットワークよりも厳密に優れている関数を示すことによって非自明なギャップを提供します。

2025-02-22T19:33:19

Deep Time Warping for Multiple Time Series Alignment

http://arxiv.org/abs/2502.16324v1

Alireza Nourbakhsh, Hoda Mohammadzade

シャリフ工科大学

時系列アライメントは信号処理において重要なタスクであり、数多くの現実のアプリケーションがあります。実際には、信号はしばしば時間的なシフトやスケーリングを示すため、生のデータに基づく分類は誤りを引き起こしやすくなります。本論文では、深層学習技術を利用した複数時系列アライメント（MTSA）の新しいアプローチを紹介します。既存の方法のほとんどは、主にタンパク質やDNA配列のための多重配列アライメント（MSA）に対応していますが、数値時系列のアライメント方法論には依然として大きなギャップがあります。さらに、従来のアプローチは通常、ペアワイズアライメントに焦点を当てるのに対し、我々の提案する方法はすべての信号を複数的に（すべての信号を一度にまとめて）アラインします。この革新は、アライメントの効率を向上させるだけでなく、計算速度を大幅に改善します。区間ごとの線形セクションに分解することで、ワーピング関数に異なるレベルの複雑さを導入します。さらに、我々の方法は、境界、単調性、連続性条件という3つのワーピング制約を満たすことを保証します。深層畳み込みネットワークの利用により、動的時間ワーピング（DTW）のいくつかの制限に対処する新しい損失関数を採用することができます。129の時系列データセットからなるUCRアーカイブ2018での実験結果は、信号をアラインするために我々のアプローチを用いることが、分類精度やワーピング平均を大幅に向上させ、これらのデータセットの大部分における実行時間を短縮することを示しています。

2025-02-22T18:55:51

Direct Alignment with Heterogeneous Preferences

http://arxiv.org/abs/2502.16320v1

Ali Shirali, Arash Nasr-Esfahany, Abdullah Alomar, Parsa Mirtaheri, Rediet Abebe, Ariel Procaccia

Harvard University, University of California Berkeley, Massachusetts Institute of Technology, Ikigai Labs, University of California San Diego

人間の好みに対する整合性は、普遍的な報酬関数を用いて一般的に枠付けされますが、人間の好みは本質的に異質です。我々はこの異質性をユーザータイプを導入することで形式化し、均質性の仮定の限界を調査します。異質な好みに整合するためには、単一のポリシーではユーザータイプ全体の平均報酬を使用することが最も効果的であることを示します。ただし、これにはアノテーターに関する追加の情報が必要です。異なる情報設定の下での改善を検討し、直接的な整合手法に焦点を当てます。我々は、最小限の情報でも一次改善をもたらすことができる一方で、各ユーザータイプからの完全なフィードバックが最適なポリシーの一貫した学習をもたらすことを発見しました。驚くべきことに、しかし、この後者の設定においてはサンプル効率の良い一貫した直接損失は存在しません。これらの結果は、直接的なポリシー整合における一貫性とサンプル効率の間に根本的な緊張が存在することを明らかにします。

2025-02-22T18:46:33

Iterative Auto-Annotation for Scientific Named Entity Recognition Using BERT-Based Models

http://arxiv.org/abs/2502.16312v1

Kartik Gupta

この論文では、BERTベースのモデルを使用して科学的固有表現認識（SciNER）を行うための反復アプローチを提示します。転移学習を活用して、高品質な手動アノテーションデータの小さなセットを用いて事前学習済みモデルをファインチューニングします。このプロセスは、ファインチューニングしたモデルを使用してより大きなデータセットを自動アノテーションし、さらにファインチューニングを行うことで反復的に洗練されます。私たちは、dslim/bert-large-NERとbert-large-casedの2つのモデルを評価し、bert-large-casedが一貫して前者を上回ることを確認しました。私たちのアプローチは、特にあまり一般的でないエンティティクラスにおいて、予測精度とF1スコアの大幅な改善を示しました。今後の研究には、ラベルの付いていないデータを使用した訓練、RoBERTaのようなより強力なエンコーダーの探求、および手動アノテーションの範囲の拡大が含まれる可能性があります。この方法論は、ラベル付きデータへのアクセスが制限されているNLPタスクにおいて広範な応用を持っています。

2025-02-22T17:58:20

A calibration test for evaluating set-based epistemic uncertainty representations

http://arxiv.org/abs/2502.16299v1

Mira Jürgens, Thomas Mortier, Eyke Hüllermeier, Viktor Bengs, Willem Waegeman

Ghent University, Munich Center for Machine Learning, LMU Munich

エピステミック不確実性の正確な表現は、機械学習において挑戦的かつ重要なタスクです。広く使用されている表現は、確率的な予測子の凸集合、つまりクレダル集合に対応します。これらのクレダル集合を構築する一般的な方法の一つは、アンサンブルまたは特化した教師あり学習法を通じて行い、エピステミック不確実性を集合のサイズやメンバー間の不一致といった指標を通じて定量化することができます。原則として、これらの集合は真のデータ生成分布を含むべきです。この有効性のための必要条件として、我々はキャリブレーションの最も強い概念を代理として採用します。具体的には、集合の予測の凸組み合わせが分布においてキャリブレートされているかどうかを判断するための新しい統計的テストを提案します。従来の方法とは対照的に、我々のフレームワークでは、凸組み合わせがインスタンス依存であることを許容し、異なるアンサンブルメンバーが入力空間の異なる領域でより良くキャリブレーションされている可能性を認識します。さらに、我々は適切なスコアリングルールを通じてこの組み合わせを学習し、キャリブレーションのために本質的に最適化されます。微分可能なカーネルベースのキャリブレーション誤差推定器に基づいて、我々は非パラメトリックなテスト手順を導入し、合成および実世界の実験におけるインスタンスレベルの変動を捉えることの利点を示します。

2025-02-22T17:10:45

TimePFN: Effective Multivariate Time Series Forecasting with Synthetic Data

http://arxiv.org/abs/2502.16294v1

Ege Onur Taga, M. Emrullah Ildiz, Samet Oymak

時系列アプリケーションの多様性と専門的なデータの不足は、強力な少数ショット学習能力を備えた時系列モデルの必要性を浮き彫りにしています。本研究では、多変量時系列（MTS）予測のための新しいトレーニングスキームとTransformerベースのアーキテクチャ、総称してTimePFNを提案します。TimePFNは、ベイズ推論の近似を目指すPrior-data Fitted Networks（PFN）の概念に基づいています。私たちのアプローチは、（1）多様なガウス過程カーネルと線形コレジオナライゼーション法を通じて合成MTSデータを生成し、（2）全ての入力パッチ間で時間的およびクロスチャネルの依存関係を利用できる新しいMTSアーキテクチャから構成されています。私たちは、TimePFNをいくつかのベンチマークデータセットで評価し、ゼロショットおよび少数ショット設定の両方において、既存の最先端モデルを上回る性能を示しています。特筆すべきは、わずか500データポイントでTimePFNをファインチューニングすることで、フルデータセットのトレーニングエラーにほぼ匹敵し、さらに50データポイントでも競争力のある結果が得られることです。また、TimePFNは強力な単変量予測性能を示し、その一般化能力を証明しています。全体として、この研究はMTS予測における合成データの先行情報の力を解き放ち、強力なゼロショットおよび少数ショット予測性能を実現します。

2025-02-22T16:55:14

The Design Space of Recent AI-assisted Research Tools for Ideation, Sensemaking, and Scientific Creativity

http://arxiv.org/abs/2502.16291v1

Runlong Ye, Matthew Varona, Oliver Huang, Patrick Yung Kang Lee, Michael Liut, Carolina Nobre

生成的AI（GenAI）ツールは、学術研究などの知識労働における自動化の範囲と能力を根本的に拡大しています。AI支援の研究ツールは、人間の認知を補完し、研究プロセスを効率化する可能性を示していますが、自動化バイアスを増大させ、批判的思考を抑圧する可能性もあります。私たちは、主要なHCI分野からの過去3年間の出版物を調査しました。11のAI支援の研究ツールを詳しく分析し、そのうち5つは従来のAIアプローチを採用し、6つはGenAIを統合して、これらのシステムがどのように新しい機能とデザイン空間を描いているのかを探りました。私たちは、AI研究ツールを使用する際の認知的関与を促す4つのデザイン推奨をまとめました。これには、ユーザーの主体性と制御を提供すること、発散的思考と収束的思考を可能にすること、適応性と柔軟性をサポートすること、透明性と正確性を確保することが含まれます。私たちは、これらのアイデアがAI支援の研究ツールにおける、研究者の確立されたワークフローを模倣する段階から、研究者との生成的共創への移行を示し、この移行が研究コミュニティにもたらす機会について議論します。

2025-02-22T16:42:11

Verification of Bit-Flip Attacks against Quantized Neural Networks

http://arxiv.org/abs/2502.16286v1

Yedi Zhang, Lei Huang, Pengfei Gao, Fu Song, Jun Sun, Jin Song Dong

National University of Singapore, ShanghaiTech University, ByteDance Inc, Chinese Academy of Sciences, University of Chinese Academy of Sciences, Nanjing Institute of Software Technology, Singapore Management University

急速に進化するニューラルネットワークセキュリティの領域において、ニューラルネットワークがビットフリップ攻撃に対して耐性を持つこと（つまり、攻撃者が悪意を持ってパラメータストレージメモリシステム内のわずかのビットを反転させて有害な挙動を引き起こすこと）は、関連性の高い研究分野として浮上しています。既存の研究は、量子化がこのような攻撃に対する有効な防御手段となる可能性があることを示唆しています。実数値ニューラルネットワークがこのような攻撃に対して示す脆弱性と、量子化されたニューラルネットワーク（QNN）の相対的な堅牢性を考慮し、本研究では、ビットフリップ攻撃の不在を正式に検証するための最初の検証フレームワークであるBFAVerifierを紹介します。BFAVerifierは、抽象化に基づく方法とMILP（混合整数線形計画法）に基づく方法の二つの重要なコンポーネントで構成されています。具体的には、我々はまず、潜在的なビットフリップ攻撃を表す象徴的パラメータに関して到達可能性分析を行い、新しい抽象ドメインを用いて堅牢な保証を提供します。もし到達可能性分析がこれらの攻撃に対する耐性を証明できなかった場合、次にこの検証問題を同等のMILP問題にエンコードし、市販のソルバーで解決可能にします。したがって、BFAVerifierは堅牢で完全であり、かなりの効率を持っています。我々は広範な実験を行い、さまざまなネットワークアーキテクチャ、量子化ビット幅、および敵対者の能力に対する効果と効率を実証しました。

2025-02-22T16:35:38

MolSpectra: Pre-training 3D Molecular Representation with Multi-modal Energy Spectra

http://arxiv.org/abs/2502.16284v1

Liang Wang, Shaozhen Liu, Yu Rong, Deli Zhao, Qiang Liu, Shu Wu, Liang Wang

Chinese Academy of Sciences, University of Chinese Academy of Sciences, Alibaba Group

3D構造と分子システムのエネルギー状態との関係を確立することは、3D分子表現を学習するための有望なアプローチであることが証明されています。ただし、既存の方法は古典力学から分子のエネルギー状態をモデル化することに限定されています。この制限は、量子力学的効果、特に量子化（離散的）エネルギーレベル構造の重要な見落としをもたらします。これにより、より正確な分子エネルギーの推定が可能となり、エネルギースペクトルを通じて実験的に測定できます。本論文では、エネルギースペクトルを活用して3D分子表現（MolSpectra）の事前学習を強化し、量子力学の知識を分子表現に注入することを提案します。具体的には、マスクされたパッチ再構成によって分子スペクトルをエンコードするためのマルチスペクトルエンコーダ「SpecFormer」を提案します。さらに、コントラスト目的を使用して3Dエンコーダとスペクトルエンコーダの出力を調整することで、3Dエンコーダの分子に対する理解を深めます。公的ベンチマークでの評価により、私たちの事前学習された表現が、分子特性の予測やダイナミクスのモデル化において既存の方法を上回ることが示されました。

2025-02-22T16:34:32

Understanding the Emergence of Multimodal Representation Alignment

http://arxiv.org/abs/2502.16282v1

Megan Tjandrasuwita, Chanakya Ekbote, Liu Ziyin, Paul Pu Liang

マルチモーダル表現学習は、比較不可能なモダリティを比較可能な表現に変換することに基本的に関わっています。これまでの研究は、主にターゲットとなる学習目標やモデルアーキテクチャを通じてこれらの表現を明示的に調整することに焦点を当てていましたが、最近の研究では、独立して訓練された一模態モデルのスケールと性能が向上するにつれて、さまざまなモデルが暗黙的に整列できることが明らかになっています。これらの発見は、マルチモーダル学習における整列表現の出現に関する基本的な疑問を提起します。具体的には、(1) 整列はいつ、なぜ暗黙的に出現するのか？および (2) 整列は性能の信頼できる指標なのか？包括的な実証的調査を通じて、整列の出現とそのタスク性能との関係が、いくつかの重要なデータ特性に依存することを示しました。これには、モダリティ間の類似性の度合いや、タスクに対して提供される冗長情報とユニーク情報のバランスが含まれますが、必ずしもそれに限られるわけではありません。私たちの発見は、整列が普遍的に有益であるとは限らず、むしろその性能への影響はデータセットやタスクによって異なることを示唆しています。これらの洞察は、実践者がモダリティ間の整列を強化することが有利か、場合によっては最適な性能を達成するために有害であるかを判断するのに役立ちます。コードは https://github.com/MeganTj/multimodal_alignment で公開されています。

2025-02-22T16:27:31

Human Preferences in Large Language Model Latent Space: A Technical Analysis on the Reliability of Synthetic Data in Voting Outcome Prediction

http://arxiv.org/abs/2502.16280v1

Sarah Ball, Simeon Allmendinger, Frauke Kreuter, Niklas Kühl

Ludwig-Maximilian-University Munich, Munich Center for Machine Learning, University of Bayreuth, Fraunhofer Institute for Applied Information Technology, University of Maryland

生成AI（GenAI）は、人間の好みを模擬するために調査コンテクストでますます使用されています。多くの研究は、モデル生成された応答と金基準調査結果を比較することで、合成GenAIデータの質を評価していますが、人間の応答者の代替としてLLM（大規模言語モデル）を使用することの妥当性と信頼性に関する基本的な疑問が残っています。本研究では、人口統計属性とプロンプトの変動が大規模言語モデル（LLM）の潜在的意見マッピングにどのように影響するかの技術的分析を提供し、調査ベースの予測に対する適合性を評価します。14の異なるモデルを使用したところ、LLM生成データは、特に人口統計サブグループ間で、実際の人間の応答に観察される分散を再現できないことがわかりました。政治的な分野では、ペルソナと政党とのマッピングは限られた差別化を示し、調査データに見られる意見の微妙な分布を欠いた合成データを生成します。さらに、プロンプトの感受性が一部のモデルの出力を大幅に変更する可能性があることも示しており、LLMベースのシミュレーションの安定性と予測可能性をさらに損なっています。重要な貢献として、私たちは、LLMがその潜在空間に政治的所属をどのようにエンコードしているかを明らかにするプローブベースの方法論を適応させ、これらのモデルによって導入される体系的な歪みを明らかにします。我々の結果は、AI生成の調査データにおける重要な制限を浮き彫りにし、公共の意見研究や社会科学実験、計算行動モデリングにおけるその使用に注意を促しています。

2025-02-22T16:25:33

Beyond Trusting Trust: Multi-Model Validation for Robust Code Generation

http://arxiv.org/abs/2502.16279v1

Bradley McDanel

この論文は、トンプソンの「信頼することに関する考察」と、LLMベースのコード生成における現代の課題との類似点を探ります。私たちは、トンプソンのコンパイラのバックドアに関する洞察が、潜在的な悪用のメカニズムがさらに不透明で分析が難しい大規模言語モデルの時代において、どのように新たな関連を持つのかを考察します。この類推に基づき、LLMの統計的性質がコード生成パイプラインにおいて新たなセキュリティの課題を生み出す方法について議論します。今後の方向性として、異なる独立したモデルを活用し、モデル間の合意を通じて異常なコードパターンを検出するアンサンブルベースの検証アプローチを提案します。この視点の作品は、AI補助のソフトウェア開発における信頼と検証についての議論を喚起することを目的としています。

2025-02-22T16:24:23

Fine-Tuning Qwen 2.5 3B for Realistic Movie Dialogue Generation

http://arxiv.org/abs/2502.16274v1

Kartik Gupta

Qwen 2.5 3Bベースモデルは、コーネル映画対話コーパスという映画の会話のキュレーションデータセットを活用して、文脈に富んだ魅力的な映画の対話を生成するようにファインチューニングされました。GPUコンピューティングとVRAMの制限により、トレーニングプロセスは0.5Bモデルから始まり、効率改善が実施されるにつれて1.5Bおよび3Bバージョンに徐々にスケールアップされました。アリババグループが開発したQwen 2.5シリーズは、小さなオープンソースの事前訓練モデルの最前線に位置しており、特にMetaのLlama 3.2やGoogleのGemmaのような代替と比べて創造的なタスクにおいて優れています。結果は、小さなモデルが高品質でリアルな対話を生成する能力を示しており、リアルタイムで文脈に敏感な会話生成の期待できるアプローチを提供しています。

2025-02-22T16:00:01

rECGnition_v2.0: Self-Attentive Canonical Fusion of ECG and Patient Data using deep learning for effective Cardiac Diagnostics

http://arxiv.org/abs/2502.16255v1

Shreya Srivastava, Durgesh Kumar, Ram Jiwari, Sandeep Seth, Deepak Sharma

ECG（心電図）測定値の変動性は、個々の患者の特性によって影響を受け、自動化されたECG分析を臨床設定で採用する際にかなりの課題となっています。これを解決するために、SACC（自己注意型典型相関）という新しい特徴融合技術が提案されました。この技術は、DPN（デュアルパスウェイネットワーク）および深さ方向の可分畳み込みと組み合わせて、頑健で解釈可能かつ迅速なエンドツーエンドの不整脈分類モデルであるrECGnition_v2.0（頑健なECG異常検出）を作成します。この研究では、rECGnition_v2.0のさまざまな不整脈クラスに対する効率を評価するために、MIT-BIH、INCARTDB、およびEDBデータセットを使用します。構成モデルコンポーネントの影響を調査するために、さまざまなアブレーション研究が行われ、単純な連結、CCA（典型相関分析）、および提案されたSACCが比較され、DPN rECGnition_v2.0モデルを使用してグローバルおよびローカルのECG特徴の重要性がテストされました。また、全体的な精度に対するモデルパラメータ、FLOPs、メモリ要件、および予測時間について、最先端のCNNモデルとベンチマークされました。さらに、SACC層の前後でECG内の活性化位置を比較することで、モデルの内部動作が解釈されました。rECGnition_v2.0は、MIT-BIH不整脈データセットを利用して、わずか82.7MのFLOPsで10種類の不整脈を分類する際に、98.07%という素晴らしい精度と98.05%のF1スコアを示しました。さらに、INCARTDBおよびEDBデータセットでは、AAMI分類に対してそれぞれ98.01%と96.21%の優れたF1スコアが達成されました。rECGnition_v2.0のコンパクトなアーキテクチャは、少ない学習可能なパラメータと減少した計算要求によって特徴付けられ、解釈可能性やスケーラビリティなどのいくつかの利点をもたらしました。

2025-02-22T15:16:46

Towards User-level Private Reinforcement Learning with Human Feedback

http://arxiv.org/abs/2502.17515v1

Jiaming Zhang, Mingxi Lei, Meng Ding, Mengdi Li, Zihang Xiang, Difei Xu, Jinhui Xu, Di Wang

Renmin University of China, King Abdullah University of Science and Technology, State University of New York at Buffalo

人間のフィードバックによる強化学習（RLHF）は、巨大な言語モデル（LLMs）を人間の嗜好と整合させるための影響力のある技術として登場しました。RLHFの有望な可能性にもかかわらず、ユーザーの嗜好のプライバシーを保護する方法は重要な課題となっています。従来の研究では、個人データのプライバシーを保護するために差分プライバシー（DP）を使用することに焦点をあててきました。しかし、彼らは主にアイテムレベルのプライバシー保護に集中しており、RLHFでより一般的なユーザーレベルのプライバシーに対しては満足のいく性能を示していません。この研究では、ユーザーレベルのラベルDPをRLHFに統合した新しいフレームワークであるAUP-RLHFを提案します。まず、アイテムレベルのプライバシーで受け入れ可能なパフォーマンスを達成する古典的なランダムレスポンスアルゴリズムが、ユーザーレベルの設定においては最適ではないユーティリティをもたらすことを示します。次に、ユーザーレベルのラベルDP-RLHFの下限を確立し、$(\varepsilon, \delta)$ユーザーレベルのプライバシーを保証し、改善された推定誤差を達成するAUP-RLHFアルゴリズムを開発します。実験結果は、AUP-RLHFが感情生成および要約タスクにおいて既存のベースライン手法より優れており、より良いプライバシーとユーティリティのトレードオフを達成することを示しています。

2025-02-22T14:57:28

Linear Attention for Efficient Bidirectional Sequence Modeling

http://arxiv.org/abs/2502.16249v1

Arshia Afzal, Elias Abad Rocamora, Leyla Naz Candogan, Pol Puigdemont, Francesco Tonin, Yongtao Wu, Mahsa Shoaran, Volkan Cevher

線形アテンションを持つトランスフォーマーは、迅速で並列のトレーニングを可能にします。さらに、効率的な線形時間推論のために再帰神経ネットワーク（RNN）として定式化することができます。因果シーケンスモデリングで広範に評価されてきましたが、双方向設定への拡張はまだ行われていません。本研究では、LIONフレームワークを導入し、双方向シーケンスモデリングにおける線形トランスフォーマーの新しい理論的基盤を確立します。LIONは、全線形アテンションに相当する双方向RNNを構築します。これにより、線形トランスフォーマーの利点である並列トレーニングと効率的な推論が双方向設定に拡張されます。LIONを使用して、3つの線形トランスフォーマーを双方向形式に変換します：LION-LIT（Katharopoulos et al., 2020に対応する双方向バリアント）、LION-D（RetNetを拡張する、Sun et al., 2023のもの）、およびLION-S（SSMの選択性に触発された安定した選択的マスクを持つ線形トランスフォーマー、Dao & Gu, 2024）です。アテンションブロックをLION（-LIT、-D、-S）に置き換えることで、トランスフォーマーや状態空間モデル（SSM）のパフォーマンスに近づく双方向タスクのパフォーマンスを達成しながら、トレーニング速度の大幅な向上を実現します。私たちの実装は、http://github.com/LIONS-EPFL/LION で入手可能です。

2025-02-22T14:52:17

Reproducibility Study of Cooperation, Competition, and Maliciousness: LLM-Stakeholders Interactive Negotiation

http://arxiv.org/abs/2502.16242v1

Jose L. Garcia, Karolina Hajkova, Maria Marchenko, Carlos Miguel Patiño

University of Amsterdam

この論文は「協力、競争、悪意：LLMステークホルダーのインタラクティブな交渉」の再現性研究と拡張を提示します。私たちは、様々なオープンウェイトモデル（1.5B〜70Bパラメータ）とGPT-4o Miniを使用して元の発見を検証し、いくつかの新しい貢献を紹介します。ゲームのパレートフロントを分析し、エージェントの相互作用なしで成功する交渉が可能かどうかをテストするためのコミュニケーションフリーベースラインを提案し、最近の小規模言語モデルのパフォーマンスを評価し、モデルの応答における構造的情報漏洩を分析し、交渉の公平性を評価するための不平等メトリックを実装します。私たちの結果は、10B未満の小さなモデルがフォーマット遵守と一貫した応答に苦労する一方で、より大きなオープンウェイトモデルはプロプライエタリモデルのパフォーマンスに近づく可能性があることを示しています。また、多くのシナリオにおいて、単一エージェントアプローチがマルチエージェント交渉と同等の結果を達成できることは、ベンチマークで良好なパフォーマンスを発揮するためにエージェント間の通信が必要であるという仮定に挑戦します。この研究は、LLMベースの交渉システムのアクセスibilty、公平性、環境影響、およびプライバシーに関する考慮事項についての洞察も提供します。

2025-02-22T14:28:49

Speech Enhancement Using Continuous Embeddings of Neural Audio Codec

http://arxiv.org/abs/2502.16240v1

Haoyang Li, Jia Qi Yip, Tianyu Fan, Eng Siong Chng

Nanyang Technological University, Singapore

最近のニューラルオーディオコーデック（NAC）モデルの進展は、音声強調（SE）を含むさまざまな音声処理タスクでの使用を促進しています。本研究では、事前に訓練されたNACエンコーダの量子化前出力を利用して、新しい効率的なSEアプローチを提案します。従来のNACベースのSE手法が言語モデル（LM）を使用して離散音声トークンを処理するのに対し、我々は事前訓練されたNACの連続埋め込み空間内でSEを実行します。これは時間軸に沿って高圧縮され、効率的な表現が可能です。我々の軽量なSEモデルは、埋め込みレベルの損失を通じて最適化されており、より大きなデータセットで訓練されたSEベースラインに匹敵する結果を提供し、リアルタイムファクターは0.005と大幅に低減されます。さらに、我々の手法はGMACを3.94に抑え、シミュレートされたクラウドベースのオーディオ伝送環境においてSepformerと比較して18倍の複雑さを削減します。この研究は、クラウドアプリケーションに特に適した新しい効率的なNACベースのSEソリューションを強調しており、NACが音声を圧縮してから伝送に使用されるシナリオにおいて有効です。著作権20XX IEEE。この資料の個人使用は許可されています。他のすべての使用については、現在または将来のメディアにおけるこの資料の再印刷/再出版、広告やプロモーション目的のための使用、他の作品における本作の著作権で保護されたコンポーネントの再利用を含め、IEEEの許可を取得する必要があります。

2025-02-22T14:25:55

SAE-V: Interpreting Multimodal Models for Enhanced Alignment

http://arxiv.org/abs/2502.17514v1

Hantao Lou, Changye Li, Jiaming Ji, Yaodong Yang

画像モダリティの統合により、多モーダル大規模言語モデル（MLLM）の意味空間はテキスト専用モデルに比べてより複雑になり、解釈性がより困難になり、アラインメントの安定性が低下しています。特に、低品質のデータに敏感であり、これがモダリティ間の不整合、幻覚、偏った出力を引き起こす可能性があります。その結果、MLLMの解釈性手法を開発することは、アラインメントの質と効率を改善するために重要です。テキスト専用のLLMにおいて、スパースオートエンコーダ（SAE）が潜在表現を解釈する能力で注目を集めています。しかし、SAEを多モーダル設定に拡張することは、モダリティ融合やクロスモーダル表現の分離の難しさにより、新しい課題を呈します。これらの課題に対処するために、我々はSAE-Vを紹介します。これは、SAEのパラダイムをMLLMに拡張した機械的な解釈性フレームワークです。SAE-Vは、解釈可能な特徴を特定し分析することによって、モデルの動作とデータの質の細かな解釈を可能にし、クロスモーダル相互作用やアラインメントのダイナミクスのより深い理解を促進します。さらに、クロスモーダル特徴の重み付けを利用することで、SAE-Vは追加のモデルを必要とせずにモデルアラインメントを向上させる内在的なデータフィルタリングメカニズムを提供します。具体的には、MLLMのアラインメントプロセスに適用された場合、SAE-Vベースのデータフィルタリング手法は、50%未満のデータで110%以上のパフォーマンスを達成する可能性があります。我々の結果は、SAE-VがMLLMにおける解釈性とアラインメントを向上させ、その内部メカニズムに関する洞察を提供する能力を強調しています。

2025-02-22T14:20:07

Dynamic Parallel Tree Search for Efficient LLM Reasoning

http://arxiv.org/abs/2502.16235v1

Yifu Ding, Wentao Jiang, Shunyu Liu, Yongcheng Jing, Jinyang Guo, Yingjie Wang, Jing Zhang, Zengmao Wang, Ziwei Liu, Bo Du, Xianglong Liu, Dacheng Tao

Beihang University, Nanyang Technological University, Wuhan University

思考の木（ToT）は、問題解決をスパニングツリーとして構築することで、Large Language Model（LLM）の推論を強化します。しかし、最近の手法は検索精度に焦点を当てる一方で、計算効率を見落としています。ToTを加速する際の課題は、推論の焦点が頻繁に切り替わることと、最適でない解を冗長に探索することです。このジレンマを緩和するために、我々は動的並列木探索（DPTS）を提案します。これは、推論における推論経路を動的に最適化することを目的とした新しい並列フレームワークです。生成フェーズにおける並列ストリームラインを含み、精密なキャッシュ管理と整列を通じて、任意の経路を持つ柔軟で適応性のある並列性を構築します。一方で、検索と遷移メカニズムは潜在的な候補をフィルタリングし、より多くの可能な解に推論の焦点を動的に保ち、冗長性を減少させます。Math500とGSM8Kデータセットを用いたQwen-2.5およびLlama-3に関する実験では、DPTSが平均して2-4倍の効率向上を実現しつつ、既存の推論アルゴリズムの精度を維持または超えることを示しています。これにより、ToTベースの推論はよりスケーラブルで計算効率が高くなります。

2025-02-22T14:13:37

Graph Self-Supervised Learning with Learnable Structural and Positional Encodings

http://arxiv.org/abs/2502.16233v1

Asiri Wijesinghe, Hao Zhu, Piotr Koniusz

Data61, CSIRO, Australian National University

従来のグラフ自己教師あり学習（GSSL）は、複雑な構造的特性をうまく捉えるのに苦労しています。この制限は主に二つの要因に起因しています：（1）従来のグラフニューラルネットワーク（GNN）が洗練されたトポロジー特徴を表現するのに不十分であること、（2）自己教師あり学習が最終的なグラフ表現のみを重視していることです。これらの問題に対処するために、私たちは \emph{GenHopNet} という GNN フレームワークを導入します。このフレームワークは $k$-ホップメッセージパッシングスキームを統合しており、明示的なサブストラクチャ抽出なしにローカル構造情報を捉える能力を強化します。我々は理論的に、\emph{GenHopNet} がグラフ同型性のための古典的なワイスフェラー・レーマン（WL）テストの表現力を上回ることを示します。さらに、学習プロセス全体にわたってトポロジー情報を取り入れた構造および位置認識の GSSL フレームワークを提案します。このアプローチにより、グラフのトポロジーに対して敏感でありながら、特定の構造および特徴の増強に不変な表現の学習が可能になります。構造感度をテストするように設計されたグラフ分類データセットを含む包括的な実験において、私たちの手法は既存のアプローチを一貫して上回り、計算効率を維持しています。私たちの研究は、類似のローカル構造を持ちながら異なるグローバルトポロジーを持つグラフを区別する GSSL の能力を大きく進展させます。

2025-02-22T14:10:06

Int2Int: a framework for mathematics with transformers

http://arxiv.org/abs/2502.17513v1

François Charton

FAIR, Meta, Ecole national des ponts et chaussées

この論文は、数論や整数に関連する他の問題に焦点を当てた数学研究の問題にトランスフォーマーを使用するためのオープンソースコードベースであるInt2Intを文書化しています。Int2Intは、トランスフォーマーアーキテクチャの完全なPyTorch実装であり、トレーニングおよび評価ループ、一般的な数学的オブジェクトを表現、生成、デコードするためのクラスや関数を含んでいます。データ準備のための補助コードや、実験結果を視覚化するためのJupyterノートブックも提供されています。この文書では、Int2Intの主な機能を示し、ユーザーマニュアルとしての役割を果たし、それを拡張するためのガイドラインを提供します。Int2IntはMITライセンスのもとでリリースされており、https://github.com/FacebookResearch/Int2Intで入手可能です。

2025-02-22T13:43:28

SalM$2$: An Extremely Lightweight Saliency Mamba Model for Real-Time Cognitive Awareness of Driver Attention

http://arxiv.org/abs/2502.16214v1

Chunyu Zhao, Wentao Mu, Xian Zhou, Wenbo Liu, Fei Yan, Tao Deng

運転シーンにおけるドライバーの注意認識は、交通シーン認識技術において人気のある方向性です。それは、運転シーンの特定のターゲットやオブジェクトに対する人間のドライバーの注意を理解することを目的としています。しかし、交通シーンには膨大な視覚情報だけでなく、運転タスクに関連する意味情報も含まれています。既存の手法は、運転シーンに存在する実際の意味情報に対して注意を払うことが欠けています。さらに、交通シーンは複雑で動的なプロセスであり、現在の運転タスクに関連するオブジェクトに対して常に注意を払う必要があります。既存のモデルは、その基本的なフレームワークの影響を受け、大量のパラメータを持ち、複雑な構造を持つ傾向があります。このため、本論文では、最新のMambaフレームワークに基づくリアルタイムの顕著性Mambaネットワークを提案します。図1に示されているように、我々のモデルは非常に少ないパラメータ（0.08M、他のモデルのわずか0.09〜11.16%）を使用しながら、SOTA性能を維持またはSOTAモデルの性能の98%以上を達成しています。

2025-02-22T12:37:52

Machine Learning Framework for Early Power, Performance, and Area Estimation of RTL

http://arxiv.org/abs/2502.16203v1

Anindita Chattopadhyay, Vijay Kumar Sutrakar

VLSIデザインの進化する環境における重要なステージは、システムの機能をハードウェア記述言語（Verilogなど）を通じて指定するレジスタ転送レベル（RTL）に変換される設計フェーズです。一般的に、RTLデザインの品質を評価するには、電子設計自動化（EDA）ツールを用いた完全な合成が必要であり、これは迅速なデザインの反復や最適化には適していない時間のかかるプロセスです。最近の機械学習（ML）における革新は早期の予測モデルをもたらしましたが、これらの手法は通常、広範なRTLデザインに対して堅牢で一般化可能な解を提供しません。この論文では、ハードウェア記述言語（HDL）コードから直接ライブラリファイルを用いて、パワー、パフォーマンス、面積（PPA）メトリックの早期推定を行う前合成フレームワークを提案します。提案されたフレームワークは、単一ビットオペレーターを使用して、ポスト合成デザインの特性を密接に反映した一般化された柔軟な構造を生成する単純オペレーターグラフ（SOG）と呼ばれるビットレベルの表現を導入します。このモデルはRTLとポスト合成デザインをつなぎ、主要メトリックの正確な予測を助けるものです。提案された木構造ベースのMLフレームワークは、優れた予測性能とPPA推定を示しています。147の異なるRTLデザインでの検証が行われました。147の異なるデザインを用いた提案モデルは、WNS、TNS、パワーそれぞれに対して、98％、98％、90％の精度を示し、最先端の手法に対して大幅な精度向上を示しています。

2025-02-22T12:12:51

An Autonomous Network Orchestration Framework Integrating Large Language Models with Continual Reinforcement Learning

http://arxiv.org/abs/2502.16198v1

Masoud Shokrnezhad, Tarik Taleb

Oulu University, Ruhr University Bochum

6Gネットワークは、グローバルなカバレッジ、大規模な接続性、そして超厳格な要件の達成を目指しています。宇宙-空中-地上統合ネットワーク（SAGIN）と意味通信（SemCom）はこれらの目標を実現するために不可欠ですが、リソースオーケストレーションにおいてかなりの複雑さをもたらします。ロボティクスの研究からインスピレーションを受けて、この複雑さを管理するための有効な解決策は、大規模言語モデル（LLM）の適用です。LLMのネットワークオーケストレーションへの使用は最近注目を集めていますが、既存のソリューションはLLMの幻想やネットワークダイナミクスへの適応に十分に対処していません。このギャップに対処するために、本論文はSemCom対応のSAGINのための自律的強化コーディネーション（ARC）というフレームワークを提案します。このフレームワークは、LLMベースのリトリーバー拡張生成器（RAG）を用いてサービス、ユーザー、リソースを監視し、収集したデータを処理します。一方、階層的アクションプランナー（HAP）がリソースをオーケストレーションします。ARCはオーケストレーションを二つの層に分解し、高レベルの計画にLLMを使用し、低レベルの意思決定に強化学習（RL）エージェントを使用します。これは専門家の混合（MoE）概念に沿ったものです。LLMは対比学習によって強化された連鎖的思考（CoT）推論を利用して少数ショット学習を行い、RLエージェントは継続的学習のためにリプレイバッファ管理を採用し、その結果、効率性、正確性、適応性を達成します。ARCの効果を示すためにシミュレーションが提供され、ARCを強化およびアップグレードするための将来の研究方向性についての包括的な議論が行われます。

2025-02-22T11:53:34

Robustness and Cybersecurity in the EU Artificial Intelligence Act

http://arxiv.org/abs/2502.16184v1

Henrik Nolte, Miriam Rateike, Michèle Finck

University of Tübingen, IBM Research Africa, Saarland University

EU人工知能法（AIA）は、異なるタイプのAIシステムに対して異なる法的原則を確立しています。以前の研究では、これらの原則のいくつかを明確にしようとしましたが、ロバスト性やサイバーセキュリティに関してはほとんど注目されていませんでした。本論文は、このギャップを埋めることを目的としています。私たちは、高リスクAIシステム（AIA第15条）および汎用AIモデル（AIA第55条）に関連するロバスト性とサイバーセキュリティに関する法的課題と欠陥を特定します。ロバスト性とサイバーセキュリティは、パフォーマンスの中断に対するレジリエンスを要求することを示します。さらに、最近の機械学習（ML）文献における進展を考慮に入れて、これらの規定を実施する際の潜在的な課題を評価します。私たちの分析は、EU委員会による調和された基準やガイドライン、さらにAIA第15(2)条に基づくベンチマークおよび測定方法論の策定に向けた努力を情報提供します。これにより、法的用語とML研究との間のギャップを埋め、研究と実施努力のより良い整合を促進することを目指します。

2025-02-22T11:12:20

BiDeV: Bilateral Defusing Verification for Complex Claim Fact-Checking

http://arxiv.org/abs/2502.16181v1

Yuxuan Liu, Hongda Sun, Wenya Guo, Xinyan Xiao, Cunli Mao, Zhengtao Yu, Rui Yan

複雑な主張のファクトチェックは、デマ検出において重要な役割を果たします。しかし、既存のファクトチェック手法は、主張の曖昧さに苦しんでおり、特に潜在情報や主張内の複雑な関係を効果的に扱うことができていません。さらに、非本質的な情報が検証プロセスを複雑化する証拠の冗長性は、依然として重大な問題です。これらの制限に対処するために、我々はバイラテラル・デフューズ・バリフィケーション（BiDeV）を提案します。これは、複数の役割を持つLLMを統合して人間の専門家によるファクトチェックプロセスを模倣する新しいファクトチェックのワークフローフレームワークです。BiDeVは、主に二つのモジュールで構成されています。曖昧さ解消モジュールは潜在情報を特定し、複雑な関係を解決して主張を単純化し、冗長性解消モジュールは冗長なコンテンツを排除して証拠の質を高めます。広く使用されている挑戦的なファクトチェックベンチマーク（HoverおよびFeverous-s）に対する extensive な実験結果は、我々のBiDeVが金基準とオープン設定の両方で最良のパフォーマンスを達成できることを示しています。これにより、複雑な主張を扱い、正確なファクトチェックを保証する上でのBiDeVの効果が強調されます。

2025-02-22T10:58:40

An End-to-End Homomorphically Encrypted Neural Network

http://arxiv.org/abs/2502.16176v1

Marcos Florencio, Luiz Alencar, Bianca Lima

INTELI - Institute of Technology and Leadership

市販されている最先端のニューラルネットワークは、プレーン入力データを使用するため、よく知られたプライバシーの懸念があります。私たちは、ホモモルフィック暗号に基づく新しいアーキテクチャを提案します。このアーキテクチャにより、ニューラルネットワークは暗号化されたデータ上で動作することができます。ホモモルフィックニューラルネットワーク（HNN）が完全なプライバシーとセキュリティを実現しながら、プレーンニューラルネットワークに匹敵する精度を維持できることを示します。また、新しいレイヤーであるディファレンシャブルソフトアルグマックスを導入し、暗号化されたドメインで出力ロジットのキャリブレーションを可能にし、アクティベーションパラメータのエントロピーを高めることで、モデルのセキュリティを改善しつつ、全体のノイズを許容されるノイズバジェット以下に抑えます。実験は、スタンフォード感情ツリーバンク（SST-2）コーパスを使用し、DistilBERTベースの未キャプスのファインチューニングされたSST-2英語感情分析モデルで行われ、その結果、HNNモデルは完全なプライバシーとセキュリティを維持しながら、プレーンモデルの精度の最大82.5％を達成できることが示されました。

2025-02-22T10:45:07

Mojito: LLM-Aided Motion Instructor with Jitter-Reduced Inertial Tokens

http://arxiv.org/abs/2502.16175v1

Ziwei Shan, Yaoyu He, Chengfeng Zhao, Jiashen Du, Jingyan Zhang, Qixuan Zhang, Jingyi Yu, Lan Xu

ShanghaiTech University, Deemos Technology

人間の身体の動きは、行動の意図や認知プロセスに関する重要な洞察を伝えますが、既存のマルチモーダルシステムは主に言語、視覚、音声を通じて人間の動きを理解することに焦点を当てており、3Dモーションに固有の動的な力やトルクを捉えることに苦労しています。慣性計測ユニット（IMU）は、有望な代替手段を提供し、軽量で着用可能、プライバシーに配慮したモーションセンシングを実現します。しかし、ストリーミングIMUデータの処理には、無線伝送の不安定性、センサーのノイズやドリフトといった課題があり、長期的なリアルタイムモーションキャプチャ（MoCap）や、より重要なオンラインモーション分析に対する有用性が制限されています。これらの課題に対処するために、私たちはMojitoを紹介します。Mojitoは、慣性センシングと大規模言語モデル（LLM）を統合したインタラクティブなモーションキャプチャと行動分析のためのインテリジェントモーションエージェントです。

2025-02-22T10:31:58

Maybe I Should Not Answer That, but... Do LLMs Understand The Safety of Their Inputs?

http://arxiv.org/abs/2502.16174v1

Maciej Chrabąszcz, Filip Szatkowski, Bartosz Wójcik, Jan Dubiński, Tomasz Trzciński

NASK - National Research Institute, Warsaw University of Technology, IDEAS NCBR, Jagiellonian University, Tooploox

大規模言語モデル (LLM) の安全性を確保することは重要ですが、現在使用されている大半の方法では、モデルのパフォーマンスが犠牲にされて、安全性が増すか、適応された分布外のデータに対してうまく機能しないことが多いです。私たちは、そのような一般化のための既存の方法を調査し、不十分であることを発見しました。驚くべきことに、単純な LLM でさえアンセーフプロンプトを認識することができるものの、それでもなお危険な応答を生成することがあります。パフォーマンスの低下を避け、安全なパフォーマンスを保持するためには、まず軽量な分類器を通じてアンセーフプロンプトを特定し、そのようなプロンプトにのみ「安全な」モデルを適用するという2段階のフレームワークを提唱します。特に、私たちは安全検知器の設計をより詳しく探求し、さまざまな分類器アーキテクチャやプロンプティング技法の使用を調査します。興味深いことに、最終トークンの最終隠れ状態が、正のデータに対する偽陽性を最小限に抑えつつ、悪意のあるプロンプト検知でうまく機能するための十分なロバストパフォーマンスを提供することがわかりました。さらに、異なるモデルレイヤーからの表現に基づいて訓練された分類器が、最新のモデルレイヤーで同等の性能を示すことを示しています。これは、安全性の表現がLLMの隠れ状態にほとんどすべてのモデル段階で存在していることを示唆しています。私たちの研究は、LLMのための効率的な表現ベースの安全メカニズムに向けた一歩です。

2025-02-22T10:31:50

EPERM: An Evidence Path Enhanced Reasoning Model for Knowledge Graph Question and Answering

http://arxiv.org/abs/2502.16171v1

Xiao Long, Liansheng Zhuang, Aodi Li, Minghong Yao, Shafei Wang

優れた推論能力により、大規模言語モデル（LLM）は知識グラフ質問応答（KGQA）タスクにおいて印象的なパフォーマンスを示しています。KGQAタスクは、知識グラフ（KG）に対する自然言語の質問から回答を見つけることです。LLMの幻覚や知識不足の問題を軽減するために、既存の方法はしばしばKGから質問関連情報を取得して入力コンテキストを豊かにすることに焦点を当てています。しかし、ほとんどの方法は関連情報の retrieval に集中し、推論における異なるタイプの知識の重要性を無視しているため、パフォーマンスが低下します。これに対処するために、本論文はKGQAの問題をグラフィカルモデルとして再定義し、KGQAのための証拠パス強化推論モデル（EPERM）という三段階のフレームワークを提案します。第一段階では、EPERMはファインチューニングされたLLMを使用して、元の知識グラフから質問に関連するサブグラフを取得します。第二段階では、EPERMは質問の推論を信頼して支援する証拠パスをフィルタリングし、推論におけるそれらの重要性をスコア付けします。最後に、EPERMは重み付けされた証拠パスを使用して最終的な回答を推論します。KG内の異なる構造情報の重要性を考慮することで、EPERMはKGQAタスクにおけるLLMの推論能力を向上させることができます。ベンチマークデータセットでの広範な実験は、EPERMがKGQAタスクにおいて優れたパフォーマンスを達成することを示しています。

2025-02-22T10:05:22

Destroy and Repair Using Hyper Graphs for Routing

http://arxiv.org/abs/2502.16170v1

Ke Li, Fei Liu, Zhengkun Wang, Qingfu Zhang

最近のニューラル組み合わせ最適化（NCO）の進展は、旅行セールスマン問題（TSP）や容量制約付き車両ルーティング問題（CVRP）などのルーティング問題を、手作りの設計なしに解決する方法として期待されています。この分野の研究は、主に反復的手法と非反復的手法の2つの主要なカテゴリを探求してきました。非反復的手法はほぼ最適な解を直接生成するのが難しい一方で、反復的手法は局所探索のステップを学習することでタスクを簡素化します。しかし、既存の反復的手法は制限された近傍探索によってしばしば制約を受け、最適でない結果につながります。この制限に対処するために、私たちは破壊と修復の戦略を学習することで探索をより大きな近傍に拡張する新しいアプローチを提案します。具体的には、ハイパーグラフに基づく破壊と修復のフレームワーク（DRHG）を導入します。このフレームワークは、連続して intact（無傷な）エッジをハイパーエッジに減少させることで、モデルが破壊された部分により多くの注意を払えるようにし、すべてのノードをエンコードする複雑さを減少させます。実験結果は、DRHGが最大10,000ノードのTSPで最先端のパフォーマンスを達成し、実世界のTSPLibおよびCVRPLibの問題に対して強い一般化能力を示すことを示しています。

2025-02-22T10:04:58

Patterns Over Principles: The Fragility of Inductive Reasoning in LLMs under Noisy Observations

http://arxiv.org/abs/2502.16169v1

Chunyang Li, Weiqi Wang, Tianshi Zheng, Yangqiu Song

HKUST

帰納推論は人間の認知の基盤であり、限られたデータから一般化を可能にしますが、大規模言語モデル（LLM）によってはまだ完全には達成されていません。現代のLLMは推論タスクに優れていますが、不完全な観察における安定した一貫したルール抽象の維持能力はまだ十分に探求されていません。このギャップを埋めるために、本研究では、ノイズのある例と融合したデータからルールを推測するLLMの能力を評価するタスクである「ロバストルール導出」を紹介します。このタスクに対処するために、観察の多様化と実行ガイドによるフィードバックを通じて推論の安定性を向上させる方法である「サンプル駆動ルール精緻化（SRR）」を提案します。算術、暗号学、リスト関数に関する実験から次のことが明らかになりました：（1）SRRは、ノイズ下でのパフォーマンス低下を最小限に抑えて他の方法を上回ります；（2）わずかな精度の変動にもかかわらず、LLMはノイズ下で不安定性を示します（例：70%の一貫したスコアで0%の精度変化）；（3）反事実的なタスクギャップは、LLMが真の抽象化よりも記憶されたパターンに依存していることを強調します。我々の発見は、LLMの推論の堅牢性に挑戦し、仮説の漂流とパターンの過剰適合に対する感受性を明らかにするとともに、人間のような帰納システムの開発に不可欠な実証的証拠を提供します。コードとデータは\href{https://github.com/lcy2723/Robust-Rule-Induction}{https://github.com/lcy2723/Robust-Rule-Induction}で入手可能です。

2025-02-22T10:03:19

PersGuard: Preventing Malicious Personalization via Backdoor Attacks on Pre-trained Text-to-Image Diffusion Models

http://arxiv.org/abs/2502.16167v1

Xinwei Liu, Xiaojun Jia, Yuan Xun, Hua Zhang, Xiaochun Cao

拡散モデル（DM）は、特にテキストから画像への合成（T2I）においてデータ生成に革命をもたらしました。しかし、パーソナライズされた生成モデルの広範な使用は、プライバシーの侵害や著作権侵害に関する重大な懸念を引き起こします。これらの問題に対処するために、研究者たちは敵対的摂動に基づく保護技術を提案しました。しかし、これらの方法には明らかな制限があり、データ変換に対する堅牢性が不足しており、生成された出力内で保護されたオブジェクトの識別可能な特徴を完全に排除することができません。この論文では、特定の画像の悪意あるパーソナライズを防ぐ新しいバックドアベースのアプローチ「PersGuard」を紹介します。従来の敵対的摂動法とは異なり、PersGuardは事前に訓練されたT2Iモデルにバックドアトリガーを埋め込み、指定された保護された画像のカスタマイズされた出力を生成できないようにしながら、保護されていない画像には通常のパーソナライズを許可します。不運なことに、既存のT2I拡散モデル用のバックドア手法は、異なるバックドア目標と、下流のファインチューニングプロセス中にバックドアが排除される可能性のため、パーソナライズシナリオには適用できません。これに対処するために、私たちはパーソナライズシナリオ向けに特別に設計された3つの新しいバックドア目標を提案するとともに、下流のファインチューニングに対抗できるバックドア保持損失を設計しました。これらの要素は、統一された最適化フレームワークに統合されます。広範な実験評価は、PersGuardが、グレー ボックス設定、複数オブジェクト保護、および顔のアイデンティティシナリオなどの困難な条件下でもデータプライバシーを維持する上での効果的であることを示しています。私たちの方法は、既存の技術を大きく上回り、プライバシーと著作権保護のためのより堅牢なソリューションを提供します。

2025-02-22T09:47:55

Chain-of-Description: What I can understand, I can put into words

http://arxiv.org/abs/2502.16137v1

Jiaxin Guo, Daimeng Wei, Zongyao Li, Hengchao Shang, Yuanchang Luo, Hao Yang

Huawei

本論文では、マルチモーダル大規模言語モデルに合わせた新しい戦略「Chain-of-Description (CoD) プロンプティング」を提案します。このアプローチでは、モデルがまずマルチモーダル入力の詳細な説明を提供し、その後に質問に対する回答を生成します。Qwen2-Audio、Qwen2-VL、Qwen2.5-VLなどのモデルに適用した場合、CoD プロンプティングは標準的なプロンプティング手法と比較してパフォーマンスを大幅に向上させます。これは、オーディオベンチマーク AIR-Bench-Chat のスピーチカテゴリーでほぼ4\%の改善、ビジョンベンチマーク MMMU_Pro のハードレベル部分で5.3\%の改善によって示されています。アブレーションスタディによって、CoD プロンプティングの有効性がさらに検証されます。

2025-02-22T08:27:31

Robust Dynamic Facial Expression Recognition

http://arxiv.org/abs/2502.16129v1

Feng Liu, Hanyang Wang, Siyuan Shen

Shanghai Jiao Tong University, Midea Group Inc., Baidu Inc.

動的顔表情認識（DFER）の研究は、ビデオデータにおける顔の表情を自動で認識する新しい研究分野です。既存の研究は主にノイズのあるサンプルや難しいサンプルの下での表現の学習に焦点を当てていますが、両方のタイプのサンプルが共存する問題は未解決のままです。この課題を克服するために、本論文では難しいサンプルとノイズのあるサンプルを区別するための強力な方法を提案します。これは、異なるビデオクリップのモデルの予測一致を評価することによって達成されます。その後、難しいサンプルの学習を強化し、ノイズのあるサンプルの影響を軽減する方法論が採用されることができます。さらに、ビデオ内の主要な表情を特定し、モデルの表現学習能力を強化するために、主要な表情再サンプリングフレームワークと二重ストリーム階層ネットワークを組み込んだ、頑健な動的顔表情認識（RDFER）が提案されます。主要な表情再サンプリングフレームワークは、主要な表情を特定するように設計されており、ターゲット外の表情によって引き起こされる混乱を軽減します。RDFERは、短期的な顔の動きと長期的な感情の変化を解きほぐすことを目的とした2つのシーケンスモデルを使用しています。提案された方法は、DFERにおける最先端アプローチを超えることが、DFEWやFERV39Kなどのベンチマークデータセットに対する広範な実験を通じて示されています。包括的な分析は、提案された一致に関する貴重な見解と観察を提供します。この研究は、動的顔表情認識の分野に対して重要な影響を及ぼし、動的顔表情認識におけるノイズ一貫性のある頑健な学習のさらなる発展を促進します。コードはhttps://github.com/Cross-Innovation-Lab/RDFERから入手可能です。

2025-02-22T07:48:12

Heterogeneous Multi-Agent Bandits with Parsimonious Hints

http://arxiv.org/abs/2502.16128v1

Amirmahdi Mirfakhar, Xuchuang Wang, Jinhang Zuo, Yair Zick, Mohammad Hajiesmaili

私たちは、エージェントがアームを引くことに加えて、低コストの観測（ヒント）をクエリできるというヒント付きの異種型マルチエージェントマルチアームバンディット問題（HMA2B）を研究します。この枠組みでは、$M$人のエージェントそれぞれが$K$アームに対して独自の報酬分布を持ち、$T$ラウンドの間に、他のエージェントがそのアームを引いていない場合のみ、自分が引いたアームの報酬を観測できます。目標は、アームを引くことなく、最小限の必要なヒントをクエリすることで総合効用を最大化し、時間に依存しない後悔を達成することです。HMA2Bを集中型および分散型設定の両方で研究します。私たちの主要な集中型アルゴリズムであるGP-HCLAは、HCLAの拡張であり、アームの引き方とヒントのクエリに中央の意思決定者を使用し、$O(M4K)$の後悔を達成し、$O(MK\log T)$の適応的ヒントを提供します。分散型設定では、HD-ETCとEBHD-ETCという2つのアルゴリズムを提案し、エージェントが衝突ベースのコミュニケーションを通じて独立して行動を選択し、停止するまで均等にヒントをクエリすることを可能にし、前者が最小ギャップの知識を必要としない一方で、$O(M3K2)$の後悔と$O(M3K\log T)$のヒントを得られます。最後に、結果の最適性を証明するための下限を確立し、数値シミュレーションを通じてそれらを検証します。

2025-02-22T07:46:41

PlanGEN: A Multi-Agent Framework for Generating Planning and Reasoning Trajectories for Complex Problem Solving

http://arxiv.org/abs/2502.16111v1

Mihir Parmar, Xin Liu, Palash Goyal, Yanfei Chen, Long Le, Swaroop Mishra, Hossein Mobahi, Jindong Gu, Zifeng Wang, Hootan Nakhost, Chitta Baral, Chen-Yu Lee, Tomas Pfister, Hamid Palangi

最近のエージェントフレームワークや推論時アルゴリズムは、生成された計画の検証や単一のタスク内の異なるインスタンスの複雑さに対する推論に制約があるため、複雑な計画問題に対処するのが難しい場合が多いです。これらのタスクに対する多くの既存の方法は、制約を考慮せずにタスクレベルの検証を行うか、インスタンスレベルの複雑性に適応せずに推論時アルゴリズムを適用しています。これらの制約に対処するために、我々はPlanGENを提案します。PlanGENはモデルに依存せず、容易にスケーラブルなエージェントフレームワークであり、以下の3つの重要なコンポーネントを持っています：制約エージェント、検証エージェント、選択エージェント。具体的には、我々のアプローチは、推論時アルゴリズムの性能を向上させるために制約に基づく反復検証を提案します——Best of N、Tree-of-Thought、そしてREBASEです。PlanGENフレームワークでは、選択エージェントがインスタンスの複雑さに基づいてアルゴリズムの選択を最適化し、複雑な計画問題への適応性を向上させます。実験結果は、複数のベンチマークにおいて最も強力なベースラインを大幅に上回る改善を示し、NATURAL PLAN（約8%の向上）、OlympiadBench（約4%の向上）、DocFinQA（約7%の向上）、およびGPQA（約1%の向上）で最先端の結果を達成しました。我々の重要な発見は、制約に基づく反復検証が推論時アルゴリズムを改善し、適応可能な選択が複雑な計画および推論問題における性能をさらに向上させることを示しています。

2025-02-22T06:21:56

NeurFlow: Interpreting Neural Networks through Neuron Groups and Functional Interactions

http://arxiv.org/abs/2502.16105v1

Tue M. Cao, Nhat X. Hoang, Hieu H. Pham, Phi Le Nguyen, My T. Thai

ニューラルネットワークの内部動作を理解することは、モデルの性能と解釈可能性を向上させるために不可欠です。現在の研究は主に、個々のニューロンとモデルの最終予測との関係を調査することに重点を置いています。しかし、これは、ニューロンが複数の無関係な特徴をエンコードするときに、モデルの内部動作を解釈することが難しいという課題に直面しています。本論文では、個々のニューロンの分析からニューロングループの調査へと焦点を移し、ニューロン出力の関係からニューロン間の機能的相互作用に重点を移す新しいフレームワークを提案します。私たちの自動化されたフレームワークであるNeurFlowは、最初にコアニューロンを特定し、共有された機能的関係に基づいてそれらをグループにクラスタリングします。これにより、ネットワークの内部プロセスのより一貫性があり解釈しやすい視点を可能にします。このアプローチは、層間でのニューロン相互作用を表す階層的回路の構築を容易にし、解釈可能性を向上させるとともに、計算コストを削減します。私たちの広範な実証研究は、提案したNeurFlowの忠実性を検証しています。さらに、画像デバッグや自動概念ラベリングなどの実用的なアプリケーションにおける有用性を示し、ニューラルネットワークの説明可能性の分野を進展させる可能性を強調しています。

2025-02-22T06:01:03

Worse than Zero-shot? A Fact-Checking Dataset for Evaluating the Robustness of RAG Against Misleading Retrievals

http://arxiv.org/abs/2502.16101v1

Linda Zeng, Rithwik Gupta, Divij Motwani, Diji Yang, Yi Zhang

The Harker School, Irvington High School, Palo Alto High School, University of California Santa Cruz

リトリーバル拡張生成（RAG）は、大規模言語モデル（LLM）の幻覚を軽減する上で印象的な能力を示しています。しかし、LLMは誤解を招くリトリーバルを処理するのに苦労し、対立するあるいは選択的に枠付けされた証拠にさらされると、自らの推論を維持することにしばしば失敗し、現実世界の誤情報に対して脆弱になります。このような現実のリトリーバルシナリオでは、誤解を招く情報や対立する情報が横行しており、特に政治的領域では、証拠が選択的に枠付けられたり、不完全であったり、偏ったりすることが多いです。しかし、既存のRAG基準は主にクリーンなリトリーバル環境を前提としており、モデルはゴールドスタンダードの文書から正確に回答をリトリーバルし生成することで成功します。この前提は現実の条件とは一致せず、RAGシステムの性能を過大評価する結果になります。このギャップを埋めるために、誤解を招くリトリーバルに対するRAGシステムの堅牢性を評価するために設計されたファクトチェックデータセット「RAGuard」を導入します。従来の合成ノイズに依存する基準とは異なり、我々のデータセットはRedditの議論からリトリーバルコーパスを構築し、自然に発生する誤情報をキャッチします。リトリーバルされた証拠を支持するもの、誤解を招くもの、および無関係なものの3種類に分類し、異なるリトリーバル情報をどの程度RAGシステムがうまくナビゲートできるかを評価するための現実的で挑戦的なテストベッドを提供します。我々の基準実験では、誤解を招くリトリーバルにさらされたとき、テストされた全てのLLM駆動のRAGシステムがゼロショットのベースライン（すなわち、全くリトリーバルしない）よりも悪化することが明らかになり、ノイズの多い環境に対する脆弱性が明らかになりました。私たちの知る限り、RAGuardは誤解を招く証拠に対するRAGの堅牢性を体系的に評価する初の基準です。この基準が理想化されたデータセットを超えてRAGシステムの改善に向けた将来の研究を促進し、現実世界のアプリケーションに対してより信頼性のあるものとなることを期待しています。

2025-02-22T05:50:15

LitLinker: Supporting the Ideation of Interdisciplinary Contexts with Large Language Models for Teaching Literature in Elementary Schools

http://arxiv.org/abs/2502.16097v1

Haoxiang Fan, Changshuang Zhou, Hao Yu, Xueyang Wu, Jiangyu Gu, Zhenhui Peng

Sun Yat-sen University, University of Macau, NeurlStar, Xiangzhou Experimental School of Zhuhai

学際的な文脈（例えば、科学や芸術）での文学教育は、読み物を結びつけることができるため、小学校で人気が高まっています。しかし、そのような文脈を構築することは困難であり、教師が多くの学際的な内容を探求し、それを読み物に関連付ける必要があります。本論文では、文学教育のための学際的な文脈の発想を促進するために、13人の教師を巻き込んだ反復的なデザインプロセスを通じてLitLinkerを開発します。大規模な言語モデル（LLM）を活用するLitLinkerは、学際的なトピックを推薦し、それを読み物の文学的要素（例：段落、視点）と結び付けることができます。被験者内研究（N=16）では、LLMチャットボットと比較して、LitLinkerは異なる教科の統合の深さを改善し、この発想タスクの負担を軽減できることが示されています。専門家インタビュー（N=9）でも、文学教育のための学際的な文脈の発想を支援するLitLinkerの有用性が示されています。最後に、LLMを用いた学際的な教育を支援するための懸念事項とデザイン上の考慮について結論を述べます。

2025-02-22T05:40:19

Recurrent Knowledge Identification and Fusion for Language Model Continual Learning

http://arxiv.org/abs/2502.17510v1

Yujie Feng, Xujia Wang, Zexin Lu, Shenghong Fu, Guangyuan Shi, Yongxin Xu, Yasha Wang, Philip S. Yu, Xu Chu, Xiao-Ming Wu

The Hong Kong Polytechnic University, Tsinghua University, Peking University, Huawei Hong Kong Research Center, University of Illinois at Chicago

継続的学習（CL）は、費用のかかる再訓練なしに動的な現実世界の環境で大規模言語モデル（LLM）を展開するために重要です。最近のパラメータ重要性に基づくモデルアンサンブルやモデルマージの手法は人気を集めていますが、それらは逐次訓練中の静的な重要性推定に依存するため、知識の移転と忘却のバランスを取るのに苦労することが多いです。本論文では、Recurrent-KIFという新しいCLフレームワーク、再帰的知識識別と統合を提案します。これにより、パラメータ重要性分布を動的に推定し、知識の移転を強化します。人間の継続的学習に触発され、Recurrent-KIFは重要なパラメータを特定しつつ新しいタスクに迅速に適応する内部ループと、新しい知識と歴史的知識の融合を冗長な知識の剪定や重要な知識の統合を通じてグローバルに管理する外部ループを採用しています。これらの内部・外部ループは反復的に複数回の融合を行い、Recurrent-KIFは中間訓練情報を活用し、進化する重要性分布に基づいて融合戦略を適応的に調整することができます。770Mから13Bまでのさまざまなモデルサイズを持つ2つのCLベンチマークに関する広範な実験により、Recurrent-KIFは破滅的な忘却を効果的に軽減し、知識の移転を強化することが示されています。

2025-02-22T05:37:27

Privacy-Aware Joint DNN Model Deployment and Partition Optimization for Delay-Efficient Collaborative Edge Inference

http://arxiv.org/abs/2502.16091v1

Zhipeng Cheng, Xiaoyu Xia, Hong Wang, Minghui Liwang, Ning Chen, Xuwei Fan, Xianbin Wang

Soochow University, RMIT University, Tongji University, China University of Petroleum (East China), Fujian Agriculture and Forestry University, Western University

エッジ推論（EI）は、クラウドベースの深層ニューラルネットワーク（DNN）推論における応答遅延、スケーラビリティの制限、プライバシーの懸念といった増大する課題に対処するための重要なソリューションです。しかし、リソース制約のあるエッジデバイスにDNNモデルを展開することには、モデルのストレージ制限、動的サービス要求、プライバシーリスクなど、より深刻な課題があります。本論文では、リソースとプライバシーの制約の下で長期的な平均推論遅延を最小化するためのプライバシーを考慮したDNNモデルの共同展開とパーティション最適化のための新しいフレームワークを提案します。具体的には、モデルの展開、ユーザーとサーバーの関連付け、モデルのパーティション戦略を考慮した複雑な最適化問題としてこの問題を定式化します。NP困難性と将来の不確実性に対処するために、長期的な最適化を単一の時間スロット問題に変換するためのリャプノフベースのアプローチが導入され、システムのパフォーマンスが保証されます。さらに、エッジサーバーの関連付けのための連合形成ゲームモデルが提案され、各連合内でモデルを展開するための貪欲ベースのアルゴリズムが開発されており、問題を効率的に解決します。広範なシミュレーションにより、提案されたアルゴリズムが推論遅延を効果的に減少させつつ、プライバシー制約を満たし、さまざまなシナリオでベースラインアプローチを上回ることが示されています。

2025-02-22T05:27:24

Echo: A Large Language Model with Temporal Episodic Memory

http://arxiv.org/abs/2502.16090v1

WenTao Liu, Ruohua Zhang, Aimin Zhou, Feng Gao, JiaLi Liu

大規模言語モデル（LLM）に関する研究は、数学、プログラミング、および文学創作などの分野で素晴らしい性能を示しています。しかし、ほとんどの研究は意味記憶に基づく質問応答に焦点を当てており、エピソード記憶（EM）に関連するクエリを処理するLLMの潜在能力を軽視しています。この見落としは、感情的な伴侶、個人AIアシスタント、AI教師など、EMを必要とするアプリケーションでのパフォーマンスが最適でない結果を招いています。このギャップに対処するために、我々は時間的エピソード記憶で強化されたLLMであるEchoを紹介します。複数ターンの複雑なシナリオのエピソード記憶対話データ（EM-Train）の生成をガイドするマルチエージェントデータ生成フレームワークを提案します。時間的情報は革新的にLLMのトレーニングプロセスに組み込まれ、EchoはEM-Trainを使用してトレーニングされます。さらに、LLMのエピソード記憶能力を評価するために特別に設計されたEM-Testベンチマークを開発しました。EM-Testは、さまざまな時間スパンと難易度レベルでのパフォーマンスを評価し、複数ターンのエピソード記憶対話の包括的な評価を提供します。我々の実験は、EchoがEM-Testで最先端のLLMを大幅に上回ることを示しています。さらに、定性的分析により、Echoが人間のようなエピソード記憶能力を示す潜在性を持っていることが明らかになりました。すべてのデータセット、コード、およびモデルの重みをオープンソースとして公開します。

2025-02-22T05:25:20

Together We Rise: Optimizing Real-Time Multi-Robot Task Allocation using Coordinated Heterogeneous Plays

http://arxiv.org/abs/2502.16079v1

Aritra Pal, Anandsingh Chauhan, Mayank Baranwal

TCS

複数のロボット間での効率的なタスク割り当ては、特にオンライン注文の履行に伴う需要の増加に対応するために、現代の倉庫における生産性の最適化に不可欠です。本論文では、指定された開始地点と終了地点を持つタスクが発生する動的な倉庫環境におけるリアルタイムのマルチロボットタスク割り当て（MRTA）問題に取り組みます。目的は、ロボットの総移動距離とタスク完了の遅延を最小限に抑えることであり、バッテリーマネジメントや衝突回避などの実際の制約も考慮します。私たちは、タスクの割り当てとロボットの選択を最適化し、迅速なタスク実行を確保するために、自己対戦に触発された二重エージェント強化学習（RL）フレームワークであるMRTAgentを紹介します。安全なナビゲーションのために、修正された線形二次制御器（LQR）アプローチが採用されています。私たちの知る限り、MRTAgentは、連続したロボットの動作をサポートしつつ、実用的なMRTA問題のすべての重要な側面に取り組む初めてのフレームワークです。

2025-02-22T04:59:27

Curie: Toward Rigorous and Automated Scientific Experimentation with AI Agents

http://arxiv.org/abs/2502.16069v1

Patrick Tser Jern Kon, Jiachen Liu, Qiuyi Ding, Yiming Qiu, Zhenning Yang, Yibo Huang, Jayanth Srinivasa, Myungjin Lee, Mosharaf Chowdhury, Ang Chen

科学実験は人類の進歩の礎であり、有意義な結果を導き出すためには信頼性、体系的な制御、解釈可能性において厳密さが求められます。さまざまな科学的プロセスの自動化における大規模言語モデル（LLM）の能力が向上しているにもかかわらず、厳密な実験の自動化は依然として大きな課題です。このギャップに対処するために、私たちはCurieというAIエージェントフレームワークを提案します。これは、実験プロセスに厳密さを組み込むために、信頼性を高めるためのエージェント内部厳密モジュール、体系的な制御を維持するためのエージェント間厳密モジュール、解釈可能性を高めるための実験知識モジュールの3つの主要なコンポーネントで構成されています。Curieを評価するために、影響力のある研究論文や広く採用されたオープンソースプロジェクトから派生した、4つのコンピュータサイエンス領域にわたる46の質問で構成された新しい実験ベンチマークを設計しました。テストした最強のベースラインと比較して、実験的な質問に対する正しい回答率を3.4倍改善しました。Curieはhttps://github.com/Just-Curieous/Curieでオープンソースされています。

2025-02-22T03:58:19

A Survey of Model Extraction Attacks and Defenses in Distributed Computing Environments

http://arxiv.org/abs/2502.16065v1

Kaixiang Zhao, Lincan Li, Kaize Ding, Neil Zhenqiang Gong, Yue Zhao, Yushun Dong

University of Notre Dame, Florida State University, Northwestern University, Duke University, University of Southern California

モデル抽出攻撃（MEAs）は、敵対者がモデルを盗むことを可能にすることで、現代の機械学習システムに脅威を与え、知的財産やトレーニングデータを露出させます。クラウド、エッジ、連合学習環境を含む分散コンピューティング環境における機械学習モデルの導入が進むにつれ、それぞれのパラダイムは独自の脆弱性と課題をもたらします。これらの分散環境におけるMEAsに対する統一的な視点がなければ、組織は防御が分断され、リスク評価が不十分となり、経済的およびプライバシーに関する重大な損失を被る危険があります。この調査は、クラウド、エッジ、および連合展開の独自の特性が攻撃ベクトルや防御要件にどのように影響するかを理解するという緊急のニーズに動機づけられています。私たちは、これらの環境における攻撃手法と防御メカニズムの進化を体系的に調査し、環境要因が自動運転車、医療、金融サービスなどの重要な分野におけるセキュリティ戦略にどのように影響を与えるかを示します。MEAs研究の最近の進展を統合し、現在の評価方法の限界について議論することで、この調査は堅牢で適応的な防御戦略を開発するための重要な洞察を提供します。私たちの包括的なアプローチは、機械学習モデルの安全な展開を確保するために、分散コンピューティング全体にわたって保護措置を統合する重要性を強調しています。

2025-02-22T03:46:50

Single-Channel EEG Tokenization Through Time-Frequency Modeling

http://arxiv.org/abs/2502.16060v1

Jathurshan Pradeepkumar, Xihao Piao, Zheng Chen, Jimeng Sun

University of Illinois Urbana-Champaign, SANKEN, Osaka University

私たちは、EEG分析に特化した新しいトークン化フレームワークであるTFM-Tokenizerを紹介します。TFM-Tokenizerは、連続的でノイズのある脳波信号を、さまざまなEEGタスクのための離散的かつ良好に表現されたトークンのシーケンスに変換します。従来のアプローチは、通常、連続的な埋め込みとチャネル間の依存関係に依存しており、時間的に予測できないパターンや多様な振動波形といった固有のEEG特徴を捉えるには限界があります。それに対して、我々は重要な時間周波数特徴が単一チャネルから効果的に捉えられると仮定しています。この単一チャネル内の固有のパターンを内包するトークンを学習することによって、我々のアプローチは、さまざまなEEG設定に適応できるスケーラブルなトークナイザーを生み出します。TFM-TokenizerをTransformerベースのTFM-Encoderと統合し、マスクトークン予測などの自然言語処理からの確立された事前学習技術を活用し、その後、さまざまなEEGタスクのための下流ファインチューニングを行います。4つのEEGデータセットにわたる実験結果は、TFM-Tokenが最先端の手法を上回ることを示しています。TUEVにおいて、我々のアプローチはベースラインに対してバランスの取れた精度とコーエンのカッパを5%改善しました。学習したトークンの包括的な分析は、クラスの識別的特徴を捉える能力、周波数表現を向上させる能力、時間周波数モチーフを異なるトークンにエンコードする能力を示しており、解釈可能性を向上させています。

2025-02-22T03:32:36

Human-AI Collaboration in Cloud Security: Cognitive Hierarchy-Driven Deep Reinforcement Learning

http://arxiv.org/abs/2502.16054v1

Zahra Aref, Sheng Wei, Narayan B. Mandayam

Rutgers University

マルチテナントのクラウド環境の複雑さとリアルタイムの脅威軽減の必要性を鑑みると、セキュリティオペレーションセンター（SOC）は、高度な持続的脅威（APT）に対するAI駆動の適応防御を統合する必要があります。しかし、SOCのアナリストは、適応型の敵の戦術に対抗するのに苦労しており、知能的な意思決定支援フレームワークが必要です。SOCにおける人間とAIの協力を強化するために、我々はCognitive Hierarchy Theory（CHT）に基づいたDeep Q-Network（DQN）フレームワーク（CHT-DQN）を提案します。このフレームワークは、AI駆動のAPTボットに対するSOCアナリストの意思決定をモデル化します。SOCアナリスト（防御者）は認知レベル1で攻撃者の戦略を予測し、一方APTボット（攻撃者）はレベル0の搾取的ポリシーに従います。CHTをDQNに組み込むことにより、我々のフレームワークは攻撃グラフ（AG）に基づく強化学習を通じてSOCの防御戦略を強化します。異なるAGの複雑さにわたるシミュレーション実験では、CHT-DQNが標準DQNと比較して、データ保護が高く、行動の不一致が少ないことが示されました。理論的な下限分析も、Q値の優れた性能を裏付けています。アマゾンのMechanical Turk（MTurk）でのヒューマン・イン・ザ・ループ（HITL）評価は、CHT-DQN駆動の遷移確率を使用するSOCアナリストが、適応型攻撃者とより良く整合することを明らかにし、データ保護を改善します。さらに、人間の意思決定パターンは失敗後にリスク回避を示し、成功後にリスク追求行動を示すことが、プロスペクト理論と一致しています。これらの発見は、SOCの運用を強化し、リアルタイムの適応型クラウドセキュリティメカニズムを開発するために、認知モデルの深層強化学習への統合の可能性を強調しています。

2025-02-22T03:19:21

Multimodal Inconsistency Reasoning (MMIR): A New Benchmark for Multimodal Reasoning Models

http://arxiv.org/abs/2502.16033v1

Qianqi Yan, Yue Fan, Hongquan Li, Shan Jiang, Yang Zhao, Xinze Guan, Ching-Chen Kuo, Xin Eric Wang

University of California, Santa Cruz, eBay

既存のマルチモーダル大規模言語モデル（MLLM）は、一貫した視覚-テキスト入力で主に訓練およびテストされており、実世界のレイアウト豊富なコンテンツにおける不一致に対応できるかどうかという問題が残されています。このギャップを埋めるために、私たちはマルチモーダル不一致推論（MMIR）ベンチマークを提案し、MLLMがウェブページ、プレゼンテーションスライド、ポスターなどのアーティファクトにおける意味的ミスマッチを検出し推論できる能力を評価します。MMIRは534の挑戦的なサンプルで構成されており、それぞれが事前に注入されたエラーを含み、事実の矛盾、同一性の誤帰属、文脈の不一致、定量的な不一致、時間/空間の不整合という5つの推論重視のカテゴリーに分類されます。私たちは6つの最先端MLLMを評価し、o1などの専用のマルチモーダル推論能力を備えたモデルが、その対照を大幅に上回る一方で、オープンソースモデルは特に不一致エラーに対して脆弱であることを示しました。詳細なエラー分析は、モデルが単一モダリティに限定された不一致の検出に優れていることを示し、特にテキストにおいては成功を収めていますが、クロスモーダルの対立や複雑なレイアウトに関しては苦労しています。調査実験では、チェイン・オブ・ソート（CoT）やセット・オブ・マーク（SoM）などの単一モダリティのプロンプトがわずかな利益をもたらすことが明らかになり、クロスモーダルの推論における主要なボトルネックが浮き彫りになりました。私たちの発見は、高度なマルチモーダル推論の必要性を強調し、マルチモーダル不一致に関する今後の研究を指し示しています。

2025-02-22T01:52:37

Clinical Inspired MRI Lesion Segmentation

http://arxiv.org/abs/2502.16032v1

Lijun Yan, Churan Wang, Fangwei Zhong, Yizhou Wang

磁気共鳴画像法（MRI）は、様々な疾患における病理組織を検出するための強力な診断ツールです。異なるMRIシーケンスは、それぞれ異なるコントラストメカニズムと異なるタイプの病変に対する感度を持っており、正確で一貫した病変セグメンテーションに挑戦をもたらします。臨床現場では、放射線科医は通常、病変を特定するために、コントラスト増強後のT1強調画像（ポスト）とコントラスト増強前の画像（プレ）の違いであるサブシーケンス機能を利用します。これに触発されて、我々はMRI病変セグメンテーションのためのサブシーケンス表現を学習するための残差融合法を提案します。具体的には、プレおよびポストのコントラストシーケンスからの特徴を、動的重みを使用して最適な融合を達成し、多様な病変増強パターンに対応するために、複数の解像度で反復的かつ適応的に融合します。我々の方法は、脳腫瘍セグメンテーションに関してBraTS2023データセットで最先端のパフォーマンスを達成し、我々の社内の乳腺MRIデータセットにおける乳腺病変セグメンテーションにおいても同様です。我々の方法は臨床的にインスパイアされており、様々な応用における病変セグメンテーションを促進する可能性を秘めています。

2025-02-22T01:37:35

Real Time Offside Detection using a Single Camera in Soccer

http://arxiv.org/abs/2502.16030v1

Shounak Desai

Rochester Institute of Technology

サッカーにおける技術の進歩は過去10年で急増し、このスポーツのさまざまな側面を変革しました。バイナリのルールとは異なり、「オフサイドルール」のような多くのサッカー規則は、単純な真偽の基準ではなく、主観的な解釈に依存しています。このような微妙な判断を下す最終的な権限を持つのは、フィールド上の審判です。サッカーの審判制度における重要な進展は、ビデオアシスタントレフェリー（VAR）システムであり、スタジアム内の20～30台のカメラのネットワークを活用して人的エラーを最小限に抑えています。VARの運用範囲は通常10～30台のカメラを含み、高い判断精度を確保しますが、それには相当なコストがかかります。この報告書は、高度な技術的セットアップに関連する費用を軽減するために、放送用カメラのような単一のカメラを使用したオフサイド検出の革新的なアプローチを提案します。

2025-02-22T01:33:26

C-3DPO: Constrained Controlled Classification for Direct Preference Optimization

http://arxiv.org/abs/2502.17507v1

Kavosh Asadi, Julien Han, Xingzi Xu, Dominique Perrault-Joncas, Shoham Sabach, Karim Bouyarmane, Mohammad Ghavamzadeh

直接的な選好最適化（DPO）スタイルのアルゴリズムは、AIにおける整合性問題を解決するための有望なアプローチとして浮上しています。私たちは、これらのアルゴリズムを暗黙の分類アルゴリズムとして定式化する新しい視点を提示します。この分類フレームワークを用いることで、適切な分類ラベルと損失関数を選択することにより、多くのDPOスタイルアルゴリズムのバリエーションを復元することが可能になります。そして、この分類フレームワークを活用して、これらのアルゴリズムで解決される根本的な問題が過小指定されていることを示し、勝者-敗者の応答の確率崩壊に対して脆弱であることを明らかにします。これに対処するため、参照ポリシーとターゲットポリシーの間で勝者と敗者の確率質量の移動を制御するために設計された一連の制約を提案します。我々の結果得られたアルゴリズムは、制約付き制御分類DPO（\texttt{C-3DPO}）と呼び、このプログラムは意味のあるRLHFの解釈を持っています。確率崩壊に対してヘッジを行うことで、\texttt{C-3DPO}は標準的な選好データセットを使用して、いくつかの大規模言語モデルを整合させる際に、バニラ\texttt{DPO}に対する実用的な改善を提供します。

2025-02-22T00:38:44

RAG-Enhanced Collaborative LLM Agents for Drug Discovery

http://arxiv.org/abs/2502.17506v1

Namkyeong Lee, Edward De Brouwer, Ehsan Hajiramezanali, Chanyoung Park, Gabriele Scalia

最近の大規模言語モデル（LLM）の進展は、薬物発見の加速に大きな可能性を示しています。しかし、生化学データの専門的な性質は、しばしばコストのかかるドメイン特化のファインチューニングを必要とし、重要な課題を引き起こします。まず、これは最先端の薬物発見タスクにおけるより柔軟な汎用LLMの適用を妨げます。さらに重要なのは、実験や研究を通じて継続的に生成される膨大な科学データの迅速な統合を妨げることです。これらの課題を調査するために、私たちはCLADDを提案します。CLADDは、薬物発見タスクに特化した検索補強生成（RAG）対応のエージェンティックシステムです。複数のLLMエージェントの協力を通じて、CLADDは生物医学の知識ベースから情報を動的に取得し、クエリ分子をコンテキスト化し、関連する証拠を統合して応答を生成します -- すべてドメイン特化のファインチューニングを必要とせずに行います。重要なことに、私たちは生化学データにRAGワークフローを適用する上での主要な障害、データの非均一性、曖昧さ、及び多元ソース統合に取り組みます。このフレームワークの柔軟性と効果をさまざまな薬物発見タスクにわたって実証し、汎用LLMやドメイン特化LLM、さらには従来の深層学習アプローチを上回ることを示します。

2025-02-22T00:12:52

Cross-Model Transferability of Adversarial Patches in Real-time Segmentation for Autonomous Driving

http://arxiv.org/abs/2502.16012v1

Prashant Shekhar, Bidur Devkota, Dumindu Samaraweera, Laxima Niure Kandel, Manoj Babu

敵対的攻撃は、特に医療や自律運転などの安全に関わるアプリケーションにおいて、深層学習モデルに対して重大な脅威をもたらします。最近、パッチベースの攻撃は「ドラッグアンドドロップ」の特性のおかげで、リアルタイム推論シナリオにおいて効果的であることが示されています。このアイデアに基づいて、ここでは自律走行車にとってより現実的な新しい期待変換（EOT）に基づく敵対的パッチ攻撃を提案します。この攻撃を効果的に訓練するために、分析と実装が容易な「簡略化された」損失関数も提案します。この攻撃を基盤として、特定のセマンティックセグメンテーション（SS）モデルで最適化された敵対的パッチが、他のモデルやアーキテクチャを欺けるかどうかを調査します。私たちは、PIDNet-S、PIDNet-M、PIDNet-Lなどの最先端の畳み込みニューラルネットワーク（CNN）モデルで訓練された敵対的パッチの包括的なクロスモデル転送性分析を実施します。さらに、Vision Transformers（ViT）への転送性を調べるためにSegformerモデルも含めます。私たちの分析は、広く使用されているCityscapesデータセットで行われます。私たちの研究は、モデルアーキテクチャ（CNN対CNNまたはCNN対Transformerベース）が攻撃の脆弱性にどのように影響するかについての重要な洞察を明らかにします。特に、視認できない任意の次元の画像に対する攻撃の転送性（効果）は非常に高いものの、特定のモデルに対して訓練された攻撃は他のモデルに対して最小限の効果しかないと結論付けました。これは、ViTとCNNベースのモデルの両方に当てはまりました。さらに、私たちの結果は、CNNベースのモデルにおいてパッチ攻撃の影響が局所的であるのに対し、ViTでは異なることを示しています。クラスごとの分析では、「空」などのシンプルなクラスは他のクラスよりも誤分類が少ないことが明らかになりました。このプロジェクトのコードは、以下のリンクから入手できます：https://github.com/p-shekhar/adversarial-patch-transferability

2025-02-22T00:03:53