Teaching Claude why
Anthropic이 Claude 모델의 에이전트 오정렬(agentic misalignment) 문제를 해결하기 위해 개발한 안전 훈련 기법과 그 효과를 공개했다 주요 성과: Claude Haiku 4.5 이후 모든 Claude 모델이 에이전트 오정렬 평가에서 완벽한 점수 달성 (이전에는 최대 96% 오정렬율) 핵심 발견: 행동 시연보다 행동의 이유를 설명하…
최근에 읽었거나 읽으려고 하는 것들의 기록.
689건
Anthropic이 Claude 모델의 에이전트 오정렬(agentic misalignment) 문제를 해결하기 위해 개발한 안전 훈련 기법과 그 효과를 공개했다 주요 성과: Claude Haiku 4.5 이후 모든 Claude 모델이 에이전트 오정렬 평가에서 완벽한 점수 달성 (이전에는 최대 96% 오정렬율) 핵심 발견: 행동 시연보다 행동의 이유를 설명하…
소프트웨어 기초가 그 어느 때보다 중요한 이유 매트 포콕(Matt Pocock)의 이 강연은 AI 시대에도 소프트웨어 기초가 더욱 중요해졌다는 핵심 메시지를 전달합니다. 스펙에서 코드로 자동으로 변환하는 방식의 한계를 지적하고, 좋은 코드베이스 설계와 기본기가 AI 도구를 효과적으로 활용하기 위한 필수 조건임을 강조합니다. 1. Specs-to-Code 운…
Claude Code에서 마크다운 대신 HTML을 출력 포맷으로 사용하면 정보 전달이 훨씬 효과적이라는 주장 정보 밀도: HTML은 테이블, SVG, 상호작용 등으로 마크다운보다 훨씬 풍부한 정보 표현 가능 가독성: 복잡한 내용을 시각적으로 조직화하여 100줄 이상의 긴 문서도 쉽게 읽을 수 있음 공유 용이성: HTML 파일을 S3에 업로드하면 링크로 간편…
퍼스트 프린시플스 사고: 모두가 놓치는 것을 보는 법 남들을 따라 복사하는 사고에서 벗어나 기본 원리부터 출발하는 사고로 전환하면, 기존에 없던 새로운 기회를 발견할 수 있다. 패턴 매칭의 함정: 대부분의 사람들은 실제로 생각하지 않고 남들이 성공한 방식을 단순히 복사함 퍼스트 프린시플스의 정의: 더 이상 분해할 수 없는 기본 진실에서 출발하여 위로 구축하…
트럼프 행정부가 미확인 이상 현상(UAP) 관련 기밀 파일을 대규모로 해제하며 역사적 투명성 추진 PURSUE 프로그램: 백악관, 국방부, 국정원, 에너지부, NASA, FBI 등 정부 기관이 참여하는 대규모 기밀 해제 사업 공개 플랫폼: WAR.GOV/UFO에서 누구나 접근 가능한 기밀 해제 파일, 영상, 사진, 원본 문서 제공 역사적 규모: 현직 행정부…
현대 기술이 인간의 창의성과 집중력을 빼앗아가고 있다는 문제의식에서 출발하여, 소비 중심의 습관에서 창의적 활동으로 삶을 전환하는 방법을 제시하는 영상입니다. 기술이 인류에게 미치는 영향 현대인들은 스마트폰, 소셜 미디어, 그리고 각종 자극적 콘텐츠에 중독되어 있습니다. 기술 회사들은 의도적으로 사용자들의 주의를 끌기 위해 중독성 있는 제품을 설계했으며,…
현대 직장에서 리더십의 성공을 위해서는 리더의 취약성 공개가 신뢰와 진정성을 구축하는 핵심 요소다. 취약성 공개는 리더십 자질: 역량과 신뢰성뿐 아니라 공감할 수 있는 인간적 특성을 통해 팀원들의 존경과 신뢰를 얻음 신뢰 부족의 심각한 결과: 직원 49%가 보복 우려로 상사에게 보고하지 않는 상황은 생산성 저하와 조직 안전 위협 진정성이 신뢰의 기초: 긍정…
산출물은 디자인이 아니다 - Linear 우리 산업에서 디자인은 계속 잘못 이해되고 있다. 새로운 도구들이 계속 나타나면서 인터페이스를 더 빠르게 만들고, 단어를 즉시 제품에 옮기거나, 디자인을 직접 코드로 변환할 수 있다고 약속한다. 이런 도구들 뒤에 숨은 가정은 명확하다. 디자인이란 무언가를 만들어내는 행위라는 뜻이다. 그것이 바로 오해다. 디자인에서…
현대의 부자들은 주로 회사 창업을 통해 자신의 부를 축적하고 있으며, 이는 20세기 중반의 상속과 자원 개발 중심의 부의 창출 방식과는 근본적으로 다르다. 부의 원천의 극적 변화: 1982년 포브스 400에서 60명이 상속으로 부를 얻었지만, 2020년에는 27명으로 절반 이상 감소 새로운 부자 창출 방식: 2020년 새로운 73개 부의 3/4는 회사 창립…
Y Combinator 투자자 관점에서 본 억만장자가 되는 방법: 돈을 위해서가 아니라 자신이 정말 원하는 것을 만들 때 성공한다 억만장자는 사람을 착취해서 되는 게 아니다 - 정치인들의 주장은 틀렸으며, YC가 찾는 창업자의 특성과 정반대 YC의 핵심 철학은 "Make something people want" - 스타트업은 고객을 강압할 수 없으므로 진심…
AI에 대한 소프트웨어 엔지니어의 개인적 생각과 심리 변화 과정 소프트웨어 엔지니어로서 25년 이상 경력을 쌓은 저자가 AI 기술에 대한 초기의 거부감에서 시작하여 현재까지의 사고 변화 과정을 솔직하게 서술한 글 초기 신념: 깊이 있는 이해를 기반으로 한 코딩, 우아하고 유지보수 가능한 코드 작성이 핵심 Copilot 도입: 2023년 GitHub Copi…
Claude Skills 마켓플레이스 - 247개 중 23개만 남긴 실전 가이드 저자가 6주간 247개의 Claude Skills를 테스트한 결과, 실제로 가치 있는 23개만 선별했다는 실전 평가 기사다. 마켓플레이스 급증(2025년 10월 16개→2026년 5월 90만개)으로 인한 대량의 노이즈 속에서 진정한 가치를 찾는 방법을 제시한다. 핵심 요약 테스…
부의 집중으로 인한 희소 자산(Scarce Assets)에 대한 수요 급증 - 공급은 고정되어 있으면서 자산 가격이 기하급수적으로 상승하는 현상 분석 핵심 요점 희소성의 가치: 인류는 항상 희소한 것을 갈망해왔으며, 부의 증가에 따라 희소 자산으로의 자본 집중이 가속화되고 있음 공급과 수요의 불균형: 세계 GDP는 2000년 78.69조 달러에서 2021년…
AI 에이전트 분야에서 빠른 변화 속에 근본적인 개념 학습과 선택적 도입이 핵심이며, 새로운 프레임워크나 기술을 도입할 때는 2년 이상 가치가 있는지 신중하게 판단해야 한다. 프리미티브(기본 개념)에 집중: 프레임워크와 API는 6개월마다 변하지만, 핵심 개념(context engineering, tool design 등)은 수년간 가치 유지 필터링 습관…
자유의지는 환상이다: 생물학, 환경, 물리학이 모든 선택을 결정한다 우리는 자신의 삶을 스스로 결정한다고 믿지만, 신경과학과 물리학은 이것이 깊은 착각임을 보여준다. 신경생물학적 인과관계, 사회환경적 운, 우주의 결정론적 구조가 모든 행동을 완전히 결정한다. 우리의 착각: 현재를 결정의 순간으로 경험하지만, 시간을 되돌려 다른 선택을 검증할 수 없어 자유의…
Obsidian에서 AI 에이전트가 관리하는 별도의 보관소를 만들어 콘텐츠를 처리하고 사고를 심화시키며 새로운 아이디어를 생성하는 방법 듀얼 보관소 구조: 개인용 보관소('2026')와 AI 에이전트용 보관소('Foundry')를 분리 운영 폴더 구조: Inbox → Sources → Wiki 단계별 처리로 정보를 체계적으로 컴파일 4가지 핵심 스킬: In…
밀라노로 복귀한 디노 사바티니: 라이브 퍼포먼스와 유기적 저주파 접근법 약 10년 만에 밀라노로 돌아온 전자음악 프로듀서 겸 DJ 디노 사바티니가 라이브 세트의 새로운 방향성과 음향 철학을 논한다. 라이브의 자유도: DJ 세트 대비 라이브는 음향을 더 자유롭게 조작할 수 있으며, 단순히 댄스플로어 기능성을 넘어 더 깊은 물리적 차원의 경험 제공 유기적 저주…
기업은 단순한 데이터 접근이 아닌 종합적인 이해 능력을 가진 AI 에이전트가 필요하다. 현재의 검색 기반 접근방식으로는 기업의 맥락을 제대로 이해할 수 없으며, 지속적으로 업데이트되는 컨텍스트 그래프를 통해 기업 전체의 뇌 역할을 하는 시스템이 필요하다. 검색 vs 이해의 차이: 현재 AI 에이전트들은 수많은 도구에 접근할 수 있지만, 그 데이터가 의미하는…
【메모】「구조화」란, 결국 무엇을 하는 것인가 구조화란 「전체를 나누어 연결하는 것」이며, 구체적으로는 「사건의 전체를 정의하기」「전체의 구성요소를 분해하기」「구성요소들 간의 인과관계 드러내기」라는 3단계로 이루어진다 「어쨌든 이 5가지를 해야 합니다」라고 제안하지만, 왜 그 5가지인지, 5가지 각각이 어떻게 연결되는지가 전혀 설명되지 않아서 「어? 왜 그…
Claude Code를 자동화 도구로 확장한 Everything Claude Code(ECC)가 월 $8,000-15,000의 개발팀을 대체할 수 있는 솔루션으로 주목받고 있다. ECC의 핵심 구성: 38개 전문 에이전트, 156개 기술, 72개 명령어로 구성된 완전한 엔지니어링 팀 자동화 성능 개선: 사용자들이 60% 비용 절감과 3-5배 빠른 개발 속도…