MJ's Blog

모든게 블랙박스?현재 산업계에서 99%+ 의 실무 AI 시스템이 블랙박스로 사용되며 OpenAI GPT, Google Gemini, Meta Llama 등 모두 내부 작동 원리 불명한 상황 (기업들도 자신들의 모델이 정확히 어떻게 작동하는지 모름)그래서 Mechanistic Interpretability와 같이 모델 내부를 파악하려는 노력도 많이 생기고 있는것 같지만 아직 이분야는 비주류인 상황블랙박스라서..많은 icml의 주제들이 모델 내부 자체를 이해하지 못하기 때문에, input으로 이런걸 넣어봤더니 output으로 이런게 나오더라 와 같은 내용이 많았음 ex) Training a Generally Curious Agent : 좁은 파인튜닝이 광범위한 정렬 실패를 야기할 수 있다는 논문 ex) tu..

인사이트 정리1. 효율적인 에이전트 개발 기존 LangChain 기반 시스템에서 도구 구성과 연결에 많은 시간을 들였다면, ADK는 개발자가 직접 Python 코드로 오케스트레이션 및 동작 정의가 가능해져 더 정밀한 제어와 테스트 가능해 에이전트 개발의 부담을 줄이고 핵심 로직에 집중할 수 있는 구조라고 판단됨 2. 작업 모듈화 root agent ↔ sub agent 구조를 통해 모듈화된 작업 분담이 가능하여 이를 잘 활용하면 사내 검색 시스템 내에서도 task별 분리된 에이전트 설계를 적용 가능할것으로 보임 (예: 문서 요약 ↔ 검색 ↔ 인사이트 추출 분리). 3. 세션 및 상태 관리 State, memorybank, artifact 개념을 활용하면 사용자별 대화 기록이나 작업 맥락을 효과적으로 관리..