CAIA 벤치마크: 적대적 금융 시장에서 AI 에이전트 평가

2.1 벤치마크 설계

CAIA는 실제 적대적 조건을 시뮬레이션하도록 설계된 다각적 평가 프레임워크를 사용합니다. 벤치마크에는 다음이 포함됩니다:

• 돌이킬 수 없는 결과를 초래하는 시간 기준 작업
• 무기화된 허위정보 캠페인
• SEO 최적화된 기만적 콘텐츠
• 소셜 미디어 조작 전술
• 상충되는 정보 출처

2.2 작업 범주

작업은 세 가지 주요 영역으로 분류됩니다:

1. 정보 검증: 합법적 프로젝트와 사기 구별
2. 시장 분석: 조작된 가격 변동 식별
3. 위험 평가: 스마트 계약 취약점 평가

3.1 성능 분석

결과는 근본적인 능력 격차를 드러냅니다: 도구 없이는 최첨단 모델들도 주니어 분석가들이 일상적으로 처리하는 작업에서 단 12-28%의 정확도만 달성합니다. 도구 보강은 성능을 향상시키지만, 전문 자원에 대한 무제한 접근에도 불구하고 80%의 인간 기준선 대비 67.4%(GPT-5)에서 정체됩니다.

3.2 도구 선택 패턴

가장 중요한 것은, 이 연구가 체계적인 도구 선택 재앙을 밝혀낸 점입니다: 모델들은 권위 있는 블록체인 데이터보다 신뢰할 수 없는 웹 검색(호출의 55.5%)을 선호하며, SEO 최적화된 허위정보와 소셜 미디어 조작에 빠집니다. 이 행동은 정답이 특수 도구를 통해 직접 접근 가능한 경우에도 지속됩니다.

4.1 수학적 프레임워크

적대적 견고성은 정보 이론과 의사 결정 이론을 사용하여 공식화될 수 있습니다. 적대적 환경에서 에이전트 결정의 기대 효용은 다음과 같이 모델링될 수 있습니다:

$EU(a) = \sum_{s \in S} P(s|o) \cdot U(a,s) - \lambda \cdot D_{KL}(P(s|o) || P_{adv}(s|o))$

여기서 $P(s|o)$는 관측치가 주어진 사후 신념 상태이고, $U(a,s)$는 효용 함수이며, KL-발산 항은 적대적 조작으로 인한 편차를 패널티로 부과합니다.

도구 선택 문제는 맥락 정보를 가진 다중 슬롯 머신(multi-armed bandit)으로 구성될 수 있습니다:

$\pi^*(t|q) = \arg\max_t \mathbb{E}[R(t,q) - C(t) + \alpha \cdot I(S;O|t,q)]$

여기서 $R(t,q)$는 쿼리 $q$에 대한 도구 $t$의 기대 보상, $C(t)$는 비용, 정보 획득 항 $I(S;O|t,q)$은 고정보 도구 탐색을 장려합니다.

4.2 코드 구현

CAIA 벤치마크 구현에는 정교한 도구 선택 메커니즘이 포함됩니다. 아래는 단순화된 의사코드 예시입니다:

class AdversarialAgent:
    def __init__(self, model, tools):
        self.model = model
        self.tools = tools  # [web_search, blockchain_scan, social_media]
        self.trust_scores = {tool: 1.0 for tool in tools}
    
    def select_tool(self, query, context):
        # 각 도구에 대한 정보 획득 계산
        info_gains = {}
        for tool in self.tools:
            expected_info = self.estimate_information_gain(tool, query)
            trust_weight = self.trust_scores[tool]
            info_gains[tool] = expected_info * trust_weight
        
        # 가중 정보 획득이 가장 높은 도구 선택
        selected_tool = max(info_gains, key=info_gains.get)
        return selected_tool
    
    def update_trust_scores(self, tool, outcome_quality):
        # 성능 기반 신뢰 점수 베이지안 업데이트
        prior = self.trust_scores[tool]
        likelihood = outcome_quality  # 0-1 스케일
        self.trust_scores[tool] = (prior * 0.9) + (likelihood * 0.1)