최근에 읽었거나 읽으려고 하는 것들의 기록.
AI/ML 328건
저자가 아마존 파이어 태블릿의 반복적인 강제 종료 문제를 해결하기 위해 AI 모델들을 활용해 기기를 루팅했고, 이 과정에서 중국 AI 모델들이 미국 모델들보다 더 효과적임을 발견한 이야기. $266을 들인 태블릿 소유권 탈환: 24/7 스마트홈 대시보드용 태블릿이 반복적으로 강제 종료되는 문제 해결 AI 모델의 역할 분담: Kimi K3가 취약점 발견 →…
AI 엔지니어가 갖춰야 할 핵심 기술은 LLM 기초 이해, 데이터 기반 모델 활용, 에이전트 시스템 구축, 평가 주도 개발, 프로덕션 운영, 머신러닝 기초 등 6가지 영역이다. AI 애플리케이션의 핵심 특성: 전통 소프트웨어와 달리 출력의 불확실성이 높아 반복적인 개발 과정 필요 LLM 기초 이해: 토큰화, 컨텍스트 윈도우, 샘플링 파라미터 등을 통해 모델…
AI 에이전트의 자동화된 작업 관리 시스템인 Labor0를 통해 개발자의 개입 횟수를 최소화하면서 생산성을 30배 이상 향상시킨 사례 소개 핵심 문제 해결: 사람을 완전히 제거하는 것이 아닌, 결정이 필요한 순간에만 개입하는 구조로 병목 지점 최소화 작업 자동분할: 큰 작업을 AI가 적당한 크기로 나누어 PR 리뷰와 자동화 테스트의 효율성 향상 GitHub…
ASUS Ascent GX10(DGX Spark) 1대를 추론 서버로 세팅하는 완전 가이드 - 필수 설정부터 트러블슈팅까지 실전 경험을 담은 상세 절차 공장 상태에서 추론 서버로의 전환: 데스크탑 환경 제거로 34.5GB 메모리 확보, 드라이버 업그레이드, 펌웨어 업데이트 필수 클럭 제한으로 전력 4050% 감소: GPU 클럭 2000MHz, CPU 성능코…
AI 시대 PM의 역할은 근본적으로 변했다. 규칙은 같지만 게임을 잘 두는 방식이 완전히 달라졌으며, 모든 PM이 결국 AI PM이 되어야 한다. AI PM은 특정 직함이 아니라 모든 PM의 미래상 - 모바일, 클라우드처럼 AI도 결국 PM의 기본 역할로 통합될 것 시스템의 본질 변화: 결정론→확률론 - AI는 고장이 아닌 설계로서 같은 입력에 다른 출력을…
AI 에이전트 활용 시 루프 엔지니어링을 통해 자동화 작업의 신뢰성과 통제력을 확보하는 실무 전략을 설명한다. 루프 엔지니어링의 핵심: AI 에이전트가 스스로 결과를 테스트하고 조정하는 자동 피드백 사이클을 구축하는 기법 두 가지 주요 프리미티브: /goal(단일 작업의 명확한 완료 조건 정의)과 /loop(반복적 실행 스케줄링) 위임의 원칙: 명확한 종료…
프로덕션 환경에서 AI 에이전트가 작동하려면 단순한 자동화를 넘어 결정적 제어, 상태 관리, 컨텍스트 설계가 필수적이며, 대부분의 로직은 기존 코드로 처리하고 모델은 필요한 순간에만 개입시켜야 한다. 데모와 실제 운영의 격차 - 시연 환경에서 잘 작동하는 에이전트도 실제 트래픽에서 실패하는 이유는 모델 의존도의 착각 때문 프로덕션 에이전트의 핵심 원칙 -…
베테랑의 암묵지는 문서화해도 왜 계승되지 않을까 | DevelopersIO 암묵지란 무엇인가 암묵지란, 본인이 실행할 수 있는데 말로는 설명할 수 없는 지식을 말합니다. "매뉴얼에 쓸 수 있는 것" 아래에 "경험으로 몸에 배인 판단"이 층을 이루며 숨어 있습니다. 현장에서 물으면 대략 이렇게 돌아옵니다. "문제가 생기면 소리나 분위기로 알 수 있어요. 그런…
논문 인용 예측으로 과학적 '취향'을 학습하려는 시도는 흥미롭지만, 진정한 취향이 무엇인지를 놓치고 있다. 취향은 단순한 결과물이 아닌, 창의적 작업에서 핵심적인 판단력이자 감각이다. 취향의 본질: 이론적으로 정의하기 어렵지만, 실제로는 경험과 근접성을 통해 형성되는 빠른 직관적 필터 취향 vs 실행력: Ira Glass의 취향 갭(taste gap) -…
2026년 AI 시대에 깊이 있는 사고를 잃지 않기 위해서는 직접 글을 쓰고 책을 읽으며 느린 사고의 습관을 유지해야 한다는 주장 AI 시대의 업무 환경: 프론티어 AI 모델이 대부분의 작업을 처리하면서 빠른 컨텍스트 스위칭이 효율적인 방식이 됨 속도 경쟁의 함정: 회사의 압력과 동료와의 경쟁으로 인해 느린 작업 방식을 선택하기 어려운 현실 인지적 손실의…
Claude의 개발자 Boris Cherny가 공개한 휴대폰 기반 AI 에이전트 대규모 운영 시스템 - 밤새 1,000개 에이전트를 자동으로 실행하는 아키텍처 완전 가이드 휴대폰을 주요 인터페이스로 사용하면서 동시에 수백수천 개의 AI 에이전트를 안전하게 운영 가능 1,000개 에이전트 규모는 특별한 인프라 없이 4가지 핵심 아키텍처 원칙으로 구현 가능 야…
LLM API의 암호화된 추론 데이터 블록을 분석한 연구자가 발견한 보안 관련 실험 결과와 잠재적 위험성을 다룬 글이다. 암호화된 추론 블록의 존재: OpenAI와 Anthropic은 모델의 숨겨진 사고 과정(chain-of-thought)을 클라이언트에게 암호화된 형태로 전송 클라이언트가 다음 턴에서 서버로 재전송하도록 설계됨 직접 탐색 시 API 에러…
AI 모델의 사이버보안 능력이 급격히 향상되면서 방어자와 공격자의 기술 격차가 빠르게 좁혀지고 있으며, 지금이 AI를 활용한 방어 시스템을 적극적으로 구축해야 할 시점이다. 현재 방어자의 이점: 오픈소스 모델보다 강력한 최신 AI 모델을 방어에 활용 가능하지만 이 우위는 곧 사라질 것 공격용 모델 이미 존재: Kimi K3 같은 오픈웨이트 모델이 사이버보안…
Netflix가 LLM 기반의 추천 랭킹 시스템 GenRec을 개발했으며, 기존 프로덕션 모델을 능가하면서도 훨씬 적은 레이블 데이터와 입력 신호로 작동함을 입증했다. LLM 기반 추천의 새로운 접근: 기존의 수천 개 수작업 특성(feature) 대신 사용자 이력과 아이템 메타데이터를 자연어로 표현하여 처리 두 단계 학습 구조: Phase 1에서 Netfl…
NVIDIA DGX Spark 두 대에서 GPU 클록을 2GHz로 제한하니 성능 손실은 12% 수준이지만 전력 소비는 47% 줄어들고 안정성이 크게 향상됐다 성능 vs 안정성의 트레이드오프: 최고 속도 추구보다 완주 가능성이 더 중요하다는 판단 DeepSeek V4 Flash: 중앙 디코딩 속도 11.91% 감소, 부하 전력 46.80% 감소, 토큰당 전력…
AI 에이전트를 확장하는 플러그인을 위한 통일된 개방형 표준인 Agent Plugins 1.0.0이 공개되었다. Agent Plugins는 Agent Skills와 MCP 서버를 단일 플러그인 형식으로 패키징하는 벤더 중립적 개방형 표준 최소한의 구조: plugin.json 매니페스트와 고정된 디렉토리 위치로 구성되어 구현이 간단함 클라이언트별 자유도: 설…
마찰력을 기능으로 삼기 우리는 마찰력을 나쁜 것으로 본다. 우리를 느리게 하고, 비효율적으로 만들고, 엉망으로 만든다. 제품들은 마찰력을 제거했다고 자랑한다. 심지어 "마찰 없는" 것만을 추구하는 회사들까지 생겨났다. 대부분은 맞다. 하지만 마찰력은 조용히 두 번째 일을 하고 있었다. 우리가 무언가를 만들기 전에 생각하도록 강제했던 것이다. AI 등장 이전…
AI 시대의 시스템 사고가의 중요성: Netflix의 인재 전략 Netflix의 최고 제품 기술 책임자(CPTO) Elizabeth Stone이 AI 혁신이 가져온 조직 구조, 직무 정의, 인재 채용 전략의 변화에 대해 설명합니다. 2년 반 전과 비교하여 AI 도구가 어떻게 업무 방식을 재편성했는지, 그리고 새로운 시대에 필요한 역량이 무엇인지를 다룹니다.…
AI 모델의 재귀적 자기 개선(RSI)은 가중치 직접 수정보다 사고·도구·맥락·메모리를 조율하는 하네스 시스템 자체를 개선하는 방식으로 진화하고 있으며, 이는 워크플로 자동화부터 코드 기반 하네스 탐색까지 포괄하는 소프트웨어 엔지니어링 문제가 됨 하네스의 정의와 역할: 기반 모델을 둘러싼 런타임·소프트웨어 시스템으로 사고 방식, 도구 호출, 맥락 관리, 메…
DeepSeek V4 Flash API가 저렴한데 왜 DGX Spark 2대를 로컬에서 운영할까? 공식 API와 로컬 서버의 실제 성능을 번역 품질, 응답 속도, 처리량, 코딩 능력 등 4가지 관점에서 비교 분석한 결과를 공개한다. 번역 품질은 사실상 동일: 30개 제목 중 21개는 정확히 같고, 9개 차이도 로컬 4승 API 3승으로 큰 차이 없음 짧은…
