
개발자와 운영자를 위한 기술 아카이브 & 커뮤니티 — 기사 2,183건과 게시판이 기다립니다.
Claude 긴 세션의 지연 줄이기
코딩 에이전트나 컴퓨터 사용 에이전트를 돌려 본 사람은 턴이 쌓일수록 응답이 굼떠지는 걸 느낀다. 매 턴마다 지금까지의 대화 전체를 다시 올리고, 서버는 그걸 매번 검증하고 토큰화하기 때문이다. 대화가 수십만 토큰으로 불어나면 첫 글자가 나오기까지의 …
🧵 최근 게시판 토픽
게시판 전체 보기 →최근 글
전체 보기 →
Hardware아타리 800XL을 Atari800으로 부팅하기
구형 8비트 기종을 하나씩 켜 보다 보면 아타리 쪽은 유독 칩 이야기로 흘러간다. 코모도어 64가 VIC-II와 SID로 기억되듯, 아타리 8비트도 본체보다 그 안에 든 커스텀 칩 세 개로 먼저 떠…
vLLM Sleep Mode로 한 GPU에 여러 모델 돌리기
A100 한 장에 모델 두 개를 올려두고 요청이 올 때만 번갈아 쓰고 싶은데, 둘을 동시에 상주시키면 VRAM이 모자라는 상황을 자주 만난다. 그렇다고 요청마다 프로세스를 내렸다 올리면 가중치 로딩…
llama.cpp 투기적 디코딩으로 생성 속도 올리기
로컬에서 32B급 모델을 양자화해 돌리다 보면 토큰이 한 글자씩 느릿느릿 찍히는 걸 자주 본다. GPU 한 장으로는 메모리 대역폭이 생성 속도를 눌러버리는데, 여기서 모델을 더 키우지 않고 속도만 …
HardwareApple III를 MAME로 부팅하기
Apple II가 교육과 가정에서 자리를 잡아가던 1979년, 애플은 사무실에 팔 기계가 필요했다. 그렇게 나온 것이 Apple III다. 스티브 잡스가 직접 설계에 개입했고, 그 개입이 기계를 망…
Argo CD 3.x로 깨지지 않게 올리기
사내 GitOps를 Argo CD로 돌리는 팀이면 올해 한 번쯤 3.x 업그레이드를 미뤄봤을 것이다. 2.14가 2.x 마지막 마이너라 더는 패치가 안 나오고, 보안 공지가 뜰 때마다 3.x로 넘어…
Ollama에서 깨지지 않는 JSON만 받기
로컬에서 LLM을 돌려 다른 시스템에 결과를 넘길 때 가장 성가신 건 모델이 JSON을 요청해도 앞뒤에 설명을 붙이거나 중괄호를 흘린다는 점이다. 파싱 코드에 try/except를 둘러도 열 번에 …
CI에서 Trivy를 digest로 핀해 돌리기
2026년 3월 trivy-action이 털린 뒤로 보안 스캐너를 CI에 넣는 일이 전보다 조심스러워졌다. 취약점 찾으라고 넣은 도구가 오히려 러너 메모리에서 시크릿을 긁어가는 통로가 됐으니 당연하…
NeMo IORails로 LLM 입출력 지키기
자체 호스팅 LLM을 사내 서비스에 꽂아두면, 모델 서빙보다 그 앞단을 지키는 일이 더 귀찮다. 프롬프트 탈옥 시도, 엉뚱한 주제로 끌고 가는 질문, 그리고 사용자가 아무렇지 않게 붙여 넣는 주민번…
trtllm-serve로 엔진 빌드 없이 서빙하기
vLLM으로 로컬 서빙을 붙여 둔 지가 좀 됐는데, 요즘 같은 H100이나 L40S 장비에서 "TensorRT-LLM이 더 빠르다더라"는 얘기를 심심찮게 듣는다. 예전에 TensorRT-LLM을 만…
vLLM 리랭커로 RAG 검색 재정렬하기
로컬 임베딩으로 RAG 검색을 붙여 돌려보면, 어느 순간 임베딩 모델만으로는 상위 몇 건의 순서가 애매하게 밀리는 걸 본다. 코사인 유사도로 20건을 긁어왔는데 정작 정답 문단이 7등, 8등에 처박…
Ragas로 RAG 파이프라인 점수 매기기
RAG를 한번 붙여 놓고 나면, 청킹 크기를 바꾸거나 리랭커를 끼울 때마다 "답이 좋아진 것 같다"는 느낌으로 판단하게 된다. 체감은 가는데 손에 쥔 숫자가 없으니, 어제 손본 게 진짜 개선인지 그…
Zabbix 8.0 LTS, 옵저버빌리티로 넓힌 릴리스
2026년 11월 5일에 Zabbix 8.0 LTS가 나왔다. 7.x까지의 Zabbix가 서버와 네트워크 장비를 긁어 모으는 인프라 모니터링 도구였다면, 8.0은 애플리케이션 트레이스와 로그까지 받…
🔥 인기 글
yum을 이용한 Ansible Installation (CentOS 기준)
본 문서는 CentOS 기준으로 작성되었으며, yum을 이용하여 설치합니다. (1) 아래 명령문을 실행합니다. sudo yum install ansible (2) 설치에 성공하면 아래와 같이 Com…
golang REST API 서버 컨테이너 빌드
개요 golang으로 간단한 REST API 서버를 작성하고, 다중 스테이지(Multi stage) Dockerfile로 빌드하여 컨테이너로 배포한다. API 서버 모듈 임포트 REST API 서버…
column 위치에 따른 select 성능 비교
TABLE 의 컬럼 위치에 따른 select 성능 차이가 있는지 궁금하여 알아보던 중 좋은 글을 발견하여 테스트 해본 결과 입니다. --1. TEST 환경 구성 1) 250 개 COLUMN 테이블 …
Nginx 주요 설정 (nginx.conf)
1. 개요 지난 번 포스팅을 통해 OS X에서 Nginx 1.4.4를 설치 하여 보았습니다. 강철지그님께서는 계속 작업을 해주고 계십니다. Linux에서 Nginx 1.4.5 설치 Linux에서 N…
오라클 접속 정보 설정(listener.ora, sqlnet.ora, tnsnames.ora)
- 오라클 접속 정보 설정(listener.ora, sqlnet.ora, tnsnames.ora)- ♣ listener.ora - 위치: 서버에서 $ORACLE_HOME/network/admin/l…
Tomcat 업그레이드 후 server.xml 설정 변경.
최근 Apache Tomcat의 AJP 취약점 발표이후, 해당 취약점에 대응하는 업그레이드 버전이 나왔다. 관련 취약점은 다음과 같다. Apache Tomcat AJP 취약점 보안 조치 권고(2차)…