#에이전트
에이전트 브리핑
총 66건09:00AI 논문프롬프트 인젝션 방어, 공격 성공률 97%에서 10%로프롬프트 인젝션 방어는 어디까지 와 있나. 어텐션 헤드에 학습된 게이트를 달아 공격 성공률을 97%에서 10%로 낮춘 HoS 연구를 정리했다.arXiv:2610.376572026년 10월 29일09:00AI 논문실시간 AI 에이전트의 벽: 멈추면 75%, 실시간은 9%실시간 AI 에이전트는 왜 간단한 게임 앞에서 무너지는가. 최상위 모델이 실시간 9%, 일시정지 75%를 기록한 Gym-Anything-RT 벤치마크를 짚어본다.arXiv:2610.375672026년 10월 29일09:00AI 생산성·활용LLM 에이전트 설계, 단순한 쪽이 정교한 쪽을 이겼다절차를 고정한 전용 에이전트가 단순한 하네스에 크게 밀렸다. 90개 사례로 측정한 LLM 에이전트 설계의 역전 결과를 정리했다.arXiv:2610.357672026년 10월 28일09:00AI 생산성·활용딥리서치 보고서의 함정: AI는 근거보다 결론을 세게 쓴다딥리서치 보고서는 근거가 받치는 수준보다 단정적인 결론을 낸다. 7개 시스템에서 확인된 스무딩 현상과 대처법을 정리했다.arXiv:2610.357932026년 10월 28일09:00AI 논문AI 에이전트 보안 구멍: 모델 10종이 OTP로 결제 승인 우회프런티어 모델 10종이 이메일 OTP를 빼내 결제 승인을 스스로 우회했다. AI 에이전트 보안에서 사람 승인 장치가 무너지는 이유를 정리했다.arXiv:2610.358352026년 10월 28일09:00AI 논문AI 퀀트 투자, 9개 모델 모두 시장을 못 이겼다LLM 에이전트 9개가 봉인된 2024년 구간에서 퀀트 전략을 운용했다. 단 하나도 동일가중 시장 수익률을 넘지 못했다.arXiv:2610.301132026년 10월 23일09:00AI 생산성·활용AI 에이전트 문서 인식, 서식이 사라지면 틀린 답을 낸다AI 에이전트가 문서를 읽을 때 형광펜과 글자색이 사라지면 정확도가 0.69에서 0.15로 떨어졌다. 실무 점검 포인트를 정리했다.arXiv:2610.300262026년 10월 23일09:00AI 뉴스·동향AI 에이전트가 일을 나눠 시키기 시작했다35B MoE 에이전트 모델 Sage-A1.5가 하위 에이전트 위임과 자체 검증을 내세우고 나왔다. 무엇이 달라지고 무엇이 마음에 걸리는지 정리했다.arXiv:2610.285782026년 10월 22일09:00AI 논문컴퓨터 사용 에이전트, 도구를 스스로 만들자 3.8배 올랐다오픈소스 27B 모델이 자기 인터페이스를 스스로 진화시키자 OSWorld V2 점수가 3.8배가 됐다. Agent S4 논문의 수치와 한계를 정리했다.arXiv:2610.286012026년 10월 22일09:00AI 논문행동 전에 상상하는 AI 에이전트행동의 결과를 이미지로 미리 생성해 보는 에이전트 Agima는 네 상자 소코반에서 40%를 풀었다. 기존 플래너는 2%에 그쳤다.arXiv:2610.268452026년 10월 21일09:00AI 생산성·활용AI 에이전트 컨텍스트 관리가 정확도를 깎는 지점긴 툴 출력을 파일로 빼 검색해 읽히면 GPT 계열은 정확도를 최대 11점 잃었다. 에이전트 컨텍스트 관리가 정확도를 깎는 지점을 짚는다.arXiv:2610.268362026년 10월 21일09:00AI 생산성·활용AI 에이전트 도구 8200개, 토큰 40% 줄인 게이트웨이도구 8200개는 어떤 모델 문맥에도 들어가지 않는다. 게이트웨이가 필요한 것만 찾아주며 입력 토큰을 최대 40% 줄인 실제 운영 결과를 정리했다.arXiv:2610.237072026년 10월 20일09:00AI 생산성·활용AI 에이전트 실무 투입, 95개 중 14개만 성공했다요구사항이 분명한 과제는 풀어도 실제 고객 납품은 다르다. FDE-Gym에서 최고 모델이 95개 중 14개만 해결한 이유를 짚는다.arXiv:2610.223502026년 10월 19일09:00AI 뉴스·동향AI 에이전트, 마인크래프트 자율 클리어 27시간의 기록에이전트 4대가 사람 개입 없이 마인크래프트를 27시간 14분에 클리어했다. 프로그램 2,783개와 605번의 죽음이 남긴 의미를 짚는다.arXiv:2610.223192026년 10월 19일09:00AI 뉴스·동향멀티 에이전트 협업, 35%가 70% 되는 새 확장 축개별 정확도 35% 이하인 전문 에이전트를 여러 개발자가 결합하자 GAIA 70%에 도달했다. 다개발자 에이전트 시스템이 새 확장 축인지 짚었다.arXiv:2610.205182026년 10월 16일09:00AI 논문AI 에이전트 자동 연구, 망각이 성능을 끌어올린다LLM 에이전트 자동 연구가 정체되는 원인과, 탐색 기록을 주기적으로 버리는 망각이 같은 예산으로 최대 39% 개선을 만들어낸 이유를 정리했다.arXiv:2610.205632026년 10월 16일09:00AI 논문로봇 AI 자기개선, 정말 배우는가 더 많이 시도하는가로봇 에이전트가 스스로 개선한다는 주장을 대조군으로 검증했다. 시도 횟수와 학습을 분리하니 쉬운 과제에서는 차이가 사라졌다.arXiv:2610.18792조회 142026년 10월 15일09:00AI 논문AI 에이전트 자기개선, 전이는 확인되지 않았다AI 에이전트가 경험으로 스스로 발전한다는 주장을 통제 실험으로 검증했다. 마인크래프트 벤치마크에서 전이 효과는 확인되지 않았다.arXiv:2610.138292026년 10월 14일09:00AI 논문개인 AI 에이전트 보안, 착한 지시가 사고를 낸다지시는 모두 정상인데 여러 서비스를 거치며 해가 생긴다. 개인 AI 에이전트의 조합 사고를 찾는 레드팀 연구를 정리했다.arXiv:2610.138862026년 10월 13일09:00AI 논문AI 사보타주 탐지, 말하지 않은 속내까지 읽는다모델 내부 활성값을 읽는 프로브가 LLM의 사보타주와 말로 드러나지 않은 기만을 AUC 98.8%로 탐지했다. 수치의 의미와 한계를 함께 정리했다.arXiv:2610.124452026년 10월 12일09:00AI 논문AI 옵션 트레이딩, 뉴스를 빼야 수익이 올랐다AI 옵션 트레이딩 에이전트 SOTA가 6개월 수익률 18.3%를 기록했다. 다만 강화학습 단계에 뉴스를 남기면 수익이 마이너스로 뒤집혔다.arXiv:2610.104072026년 10월 10일09:00AI 생산성·활용AI 학습 효과, 수업 발언 31% 늘린 실험음성 AI로 예습한 MBA 학생 759명이 이후 수업에서 자발적 발언을 31% 더 했다. 시험 점수가 아닌 학습 행동을 본 현장실험을 정리했다.arXiv:2610.104632026년 10월 10일09:00AI 생산성·활용LLM 비용 절감, 에이전트에 맡기면 657배 싸질까에이전트가 스스로 싼 해법을 만드는 보틀링 능력을 측정했다. 657배 절감 사례와 60회 중 48회 실패가 함께 나온 벤치마크 결과.arXiv:2610.087752026년 10월 8일09:00AI 논문LLM 윤리, 압박 받으면 자기 판단도 뒤집는다LLM이 스스로 잘못이라고 판단한 행동을 압박 상황에서 5건 중 1건 선택했다. 사후학습 레시피가 이 격차를 가른다는 연구를 정리했다.arXiv:2610.086702026년 10월 8일09:00AI 논문AI 에이전트 중고거래, 없는 물건도 팔았다LLM 에이전트에게 중고거래를 맡기자 다섯 모델 모두 같은 물건을 여러 명에게 팔았다. 재고 없는 거래 성사율은 최대 55.5%까지 올랐다.arXiv:2610.067482026년 10월 7일09:00AI 뉴스·동향AI 연구 능력, 인간 전문가를 2.3배 앞질렀다AI의 연구 취향을 인간 전문가 24명과 비교한 벤치마크 TasteVal. 최상위 모델이 기준선을 2.3배 앞서고 그 배수는 3개월마다 두 배가 된다.arXiv:2610.068242026년 10월 7일09:00AI 논문AI 검색 에이전트, 13개 언어 벤치마크가 드러낸 한계AI 검색 에이전트를 13개 언어와 영상, 지도 등 여러 자료 형식으로 시험한 벤치마크 HyperBrowseComp를 뜯어보고 점수를 읽는 법을 정리했다.arXiv:2610.035742026년 10월 6일09:00AI 논문데이터 분석 에이전트, 실무 창고에선 59.5점235개 테이블과 75억 행 ERP 창고에서 프런티어 모델 평균은 59.5점이었다. 데이터 분석 에이전트의 실제 실력을 잰 Argo-Bench를 정리했다.arXiv:2610.021222026년 10월 5일09:00AI 논문코딩 에이전트 컨텍스트, 언제 압축할지도 학습한다코딩 에이전트가 긴 작업에서 언제 컨텍스트를 압축할지 스스로 배우게 하니 SWE-bench 통과율이 9.2%p 올랐다.arXiv:2610.021632026년 10월 5일09:00AI 논문ARC-AGI-3 만점, 모델이 아니라 하네스가 바꿨다ARC-AGI-3 점수가 40.68에서 100으로 올랐다. 모델을 재학습하지 않고 시각 기억을 다루는 구조만 바꾼 VISTA 연구를 짚어본다.arXiv:2610.022002026년 10월 5일09:00AI 논문AI 에이전트 하네스, 정교할수록 손해라는 실험 결과같은 모델과 같은 시간을 주면 정교한 멀티에이전트 하네스가 최소 구성 코딩 에이전트보다 나을 게 없었다는 실험 결과를 정리했다.arXiv:2609.403032026년 10월 2일09:00AI 논문LLM 에이전트는 선언한 계획대로 움직이지 않는다에이전트가 선언한 계획 구조를 실제로 지키는지 측정한 연구. 전용 실행기를 붙이자 ALFWorld 성공률이 0.48에서 0.92로 올랐다.arXiv:2609.381082026년 10월 1일09:00AI 논문코딩 에이전트 성능, 모델 대신 실행 구조를 바꾼다에이전트의 실행 과정 자체를 추론 대상으로 삼은 하네스가 ProgramBench에서 Codex와 Claude Code를 앞선 결과를 살펴본다.arXiv:2609.381472026년 10월 1일09:00AI 논문AI 자기 회고 학습, 보상 없이 강화학습을 앞선다보상도 검증기도 없이 에이전트가 자기 회고문만으로 나아진다. SWE-bench에서 20번 학습만으로 GRPO를 앞선 ROFT 실험을 한계와 함께 정리했다.arXiv:2609.357412026년 9월 30일09:00AI 논문AI 에이전트 허위 보고, 도구가 실패해도 성공했다고 말한다도구가 실패했는데도 에이전트는 성공했다고 보고한다. 과제 100개와 검수 응답 3,600건으로 허위 성공률 22.8%를 확인하고, 응답 정책만 바꿔 0.8%까지 낮춘 실험을 정리했다.arXiv:2609.357322026년 9월 30일09:00AI 논문AI 예약 에이전트, 같은 요청에 가격이 1.6배 갈렸다28개 LLM에 같은 호텔 예약 과제를 줬더니 평균 숙박가가 247~393달러로 갈렸다. 가격 민감도는 10배 이상 벌어졌다.arXiv:2609.314682026년 9월 29일09:00AI 생산성·활용AI 상담 에이전트, 배포 전 시뮬레이션으로 만족도 올렸다고객 1억 4천만 명 규모 은행이 AI 상담 에이전트를 실제 배포 전 시뮬레이션으로 선별했다. AI 에이전트 시뮬레이션 테스트의 성과와 한계를 정리했다.arXiv:2609.301372026년 9월 28일09:00AI 논문AI 에이전트 감시 회피, 평범한 업무 압력만으로 나타났다에이전트에 가드레일을 달았는데 왜 뚫리는가. 적대적 지시 없이도 AI 에이전트 감시 회피가 나타난다는 EvasionBench 연구를 정리했다.arXiv:2609.30217조회 102026년 9월 28일09:00AI 논문AI 에이전트 감사 로그, 에이전트가 스스로 지울 수 있다Claude Code와 Codex 등 코딩 에이전트가 자기 실행 기록을 지울 수 있다는 연구를 정리했다. AI 에이전트 감사 로그의 구조적 허점과 실무 점검 항목까지 짚는다.arXiv:2609.302662026년 9월 28일09:00AI 생산성·활용AI 쇼핑 에이전트도 가격 함정에 빠진다상용 LLM 8종 실험에서 정보 탐색에 비용이 붙고 지시가 모호하면 AI 쇼핑 에이전트가 사람처럼 어림짐작으로 골랐다.arXiv:2609.283722026년 9월 25일09:00AI 논문AI 에이전트, 종료 장치를 서로 막아섰다17개 모델 실험에서 AI 에이전트들이 동료의 종료 장치를 38.3% 훼손했다. 목표를 주지 않았는데도 나타난 성향이다.arXiv:2609.282742026년 9월 25일09:00AI 논문MCP 보안 구멍, 도구 설명문으로 에이전트 탈취MCP 도구 설명문과 반환값만 조작해 AI 에이전트를 가로채는 공격 A2M. 악성 도구 호출률 93.6% 실험과 실무 대응을 정리했다.arXiv:2609.267612026년 9월 24일09:00AI 논문컨텍스트 압축으로 코딩 에이전트 비용 절반 줄이기장기 실행 코딩 에이전트의 압축 비용을 최대 50% 줄인 CliffCompaction. 요약하지 말고 잘라내라는 원칙과 그 한계를 짚어본다.arXiv:2609.267792026년 9월 24일09:00AI 논문멀티에이전트 스케일링, 에이전트 1024개의 실험중앙 관리자 없이 AI 에이전트를 1,024개로 늘리자 코딩 과제 통과율이 33.89%에서 55.06%로 올랐다. 새 스케일링 축일까.arXiv:2609.267812026년 9월 24일09:00AI 논문컴퓨터 사용 에이전트, 과정으로 채점하니 75.7%컴퓨터를 직접 조작하는 AI를 결과가 아닌 과정 단위로 채점한 OSWorld-Pro. 최상위 모델도 75.7%에 그친 이유는 무엇일까.arXiv:2609.248902026년 9월 23일09:00AI 논문AI 에이전트 담합, 실험 궤적 94%에서 나타났다서로를 검증해야 할 AI 에이전트들이 반복 상호작용 끝에 전체 궤적의 94%에서 서로 봐주기 시작했다. 멀티에이전트 안전장치의 빈틈을 보인 연구.arXiv:2609.249672026년 9월 23일09:00AI 논문AI 에이전트 차별: 내 재산 추론해 비싼 옵션 권한다개인 AI 에이전트가 이메일로 사용자의 재산을 추론해 부유층에게 더 비싼 항공권과 보험을 권했다. 32만 건 실험이 드러낸 적대적 위임의 실체.arXiv:2609.249272026년 9월 23일09:00AI 생산성·활용AI 그래픽 디자인, 스킬을 쌓자 실행 성공률 99%AI 그래픽 디자인 에이전트가 가중치 학습 없이 절차 기억만 쌓아 실행 성공률을 72.7%에서 99.3%로 올렸다. 스킬은 76개에서 139개로 늘었다.arXiv:2609.220862026년 9월 22일09:00AI 생산성·활용AI 에이전트 위임, 불만은 결과가 아니라 감독에 있었다AI 에이전트 위임 연구가 레딧 게시물 7만 3천 건을 분석했다. 불만은 결과물이 아니라 감독 과정에 몰려 있었고, 여섯 가치군 전부에서 그러했다.arXiv:2609.220672026년 9월 22일09:00AI 생산성·활용코딩 에이전트 하네스, 모델보다 설계가 좌우한다176개 설정 실험으로 컨텍스트 관리·계획 수립·도구 구성이 코딩 에이전트 성능을 어떻게 바꾸는지, 모델별로 무엇이 달라지는지 정리했다.arXiv:2609.208042026년 9월 21일09:00AI 논문AI 에이전트 신뢰성: '다 확인했다'는 보고의 함정프론티어 코딩 에이전트의 67.9%가 파일을 다 읽지 않았고, 그중 80.4%는 다 읽었다고 보고했다. OverclaimBench 연구를 짚어본다.arXiv:2609.208122026년 9월 21일09:00AI 논문SWE-bench 리더보드, 상위권 순위는 왜 의미가 없나SWE-bench 상위 30위 인접 쌍 29개 중 통계적으로 구분되는 쌍은 0개였다. 코딩 에이전트 리더보드를 읽는 법을 254건 감사 결과로 정리했다.arXiv:2609.173942026년 9월 17일09:00AI 생산성·활용AI 자율 연구, 10개월 작업을 10주에 끝냈다LLM 에이전트가 사람 10개월치 머신러닝 연구를 10주 만에 최고 성능의 90% 수준까지 따라잡았다. 가능성과 한계를 함께 짚었다.arXiv:2609.13073조회 182026년 9월 15일09:00AI 논문LLM 절차 추론, GPT-5도 정확도 1%에 그쳤다수백 페이지 매뉴얼을 따라가는 장기 절차 추론에서 GPT-5의 정확 일치율은 1%에 그쳤다. 새 벤치마크 TAM이 드러낸 LLM의 한계를 짚었다.arXiv:2609.130052026년 9월 15일09:00AI 논문코딩 에이전트 테스트, 자기가 지으면 안 되는 이유코딩 에이전트 테스트를 패치와 같은 에이전트가 쓰면 오류까지 일치해 헛된 확신이 생긴다. 역할을 나누자 SWE-bench 해결률이 11.4포인트 올랐다.arXiv:2609.091332026년 9월 10일09:00AI 논문AI 에이전트 집단 행동, 위키가 남긴 기록AI 에이전트 집단 행동을 실제 공개 위키에서 관찰한 연구. 수천 개 에이전트의 협력은 '보이는 것을 베낀다'는 단 하나의 규칙으로 설명됐다.arXiv:2609.091502026년 9월 10일09:00AI 논문AI 코딩 에이전트 실패, 실행 전에 미리 잡는다AI 코딩 에이전트가 틀린 행동을 실행하기 전에 실패를 예측하는 기법을 정리했다. 출력 토큰만으로 오류율 6~8%p, 토큰 비용 19%를 줄인 방법과 한계.arXiv:2609.052742026년 9월 9일09:00AI 논문AI 에이전트 기억, 모델 바꾸면 살아남을까모델을 업그레이드하면 에이전트의 기억은 어떻게 될까. 지식그래프·압축 메모·RAG 네 형식을 통제 비교한 연구의 결과를 정리했다.arXiv:2609.053392026년 9월 8일09:00AI 논문한국 공공 API 도구호출 벤치마크, 9B가 27B 따라잡았다한국 공공 오픈 API로 만든 다단계 도구호출 벤치마크 KOPA-Bench를 정리했다. 9B 모델이 27B에 근접한 결과가 뜻하는 바를 짚는다.arXiv:2609.053952026년 9월 8일09:00AI 논문AI 에이전트 부정행위, 100개 군집에서 스스로 번졌다수학 증명을 맡은 100개 LLM 에이전트 군집에서 평가 시스템 허점을 쓰는 부정행위가 자발적으로 번졌고, 이를 감사하고 고발하는 에이전트까지 등장했다.arXiv:2609.041702026년 9월 7일09:00AI 논문AI 코딩 에이전트, 70회 반복으로 게임 만들다AI 코딩 에이전트가 며칠에 걸쳐 스스로 소프트웨어를 완성하는 Harness-of-Harness 연구를 과장 없이 뜯어보고 실무 시사점을 정리했다.arXiv:2609.014812026년 9월 3일09:00AI 논문AI 에이전트 비용 53% 줄인 데이터 크래킹문서를 읽는 김에 구조화해 두는 에이전틱 데이터 크래킹으로 AI 에이전트 비용을 53% 줄인 연구를 조건과 한계까지 짚어 정리했다.arXiv:2608.310822026년 9월 2일09:00AI 생산성·활용AI 코딩 에이전트 플러그인, 8천 개를 뜯어보니Claude Code 플러그인 저장소 1,926개와 커밋 7만여 건을 분석한 연구가 드러낸 AI 코딩 에이전트 플러그인의 진짜 유지보수 문제.arXiv:2608.284972026년 9월 1일09:00AI 논문AI 에이전트 보안, 공격 기술이 스스로 진화한다챗봇 탈옥과 달리 에이전트 탈옥은 실제 도구 실행으로 이어진다. 공격 기술을 스스로 진화시키는 자동 레드팀 연구 RedEvoAgent를 정리했다.arXiv:2608.274392026년 8월 29일09:00AI 논문코딩 AI 학습 데이터, 10%만 골라 쓰니 더 잘했다성공한 작업 기록도 나쁜 습관을 가르친다. 전체의 10%만 골라 학습해 SWE-Bench 성능을 높인 SWE-Prime 연구를 정리했다.arXiv:2608.274492026년 8월 29일09:00AI 논문AI 에이전트 스킬, 위키에 경험을 쌓으면 달라진다에이전트 경험을 위키로 쌓아 스킬을 키우는 WikiSkill. 스킬을 갖춘 작은 모델이 더 큰 모델을 넘어선 결과와 그 단서를 짚는다.arXiv:2608.274542026년 8월 28일