개발자와 운영자를 위한 기술 아카이브 & 커뮤니티 — 기사 2,180건과 게시판이 기다립니다.
vLLM 리랭커로 RAG 검색 재정렬하기
로컬 임베딩으로 RAG 검색을 붙여 돌려보면, 어느 순간 임베딩 모델만으로는 상위 몇 건의 순서가 애매하게 밀리는 걸 본다. 코사인 유사도로 20건을 긁어왔는데 정작 정답 문단이 7등, 8등에 처박혀 있고 top-3만 LLM에 넣으니 답이 틀어지는 식…
🧵 최근 게시판 토픽
게시판 전체 보기 →최근 글
전체 보기 →
HardwareApple III를 MAME로 부팅하기
Apple II가 교육과 가정에서 자리를 잡아가던 1979년, 애플은 사무실에 팔 기계가 필요했다. 그렇게 나온 것이 Apple III다. 스티브 잡스가 직접 설계에 개입했고, 그 개입이 기계를 망…
동교동삼거리·2026년 11월 15일·조회 0Argo CD 3.x로 깨지지 않게 올리기
사내 GitOps를 Argo CD로 돌리는 팀이면 올해 한 번쯤 3.x 업그레이드를 미뤄봤을 것이다. 2.14가 2.x 마지막 마이너라 더는 패치가 안 나오고, 보안 공지가 뜰 때마다 3.x로 넘어…
Ollama에서 깨지지 않는 JSON만 받기
로컬에서 LLM을 돌려 다른 시스템에 결과를 넘길 때 가장 성가신 건 모델이 JSON을 요청해도 앞뒤에 설명을 붙이거나 중괄호를 흘린다는 점이다. 파싱 코드에 try/except를 둘러도 열 번에 …
CI에서 Trivy를 digest로 핀해 돌리기
2026년 3월 trivy-action이 털린 뒤로 보안 스캐너를 CI에 넣는 일이 전보다 조심스러워졌다. 취약점 찾으라고 넣은 도구가 오히려 러너 메모리에서 시크릿을 긁어가는 통로가 됐으니 당연하…
NeMo IORails로 LLM 입출력 지키기
자체 호스팅 LLM을 사내 서비스에 꽂아두면, 모델 서빙보다 그 앞단을 지키는 일이 더 귀찮다. 프롬프트 탈옥 시도, 엉뚱한 주제로 끌고 가는 질문, 그리고 사용자가 아무렇지 않게 붙여 넣는 주민번…
trtllm-serve로 엔진 빌드 없이 서빙하기
vLLM으로 로컬 서빙을 붙여 둔 지가 좀 됐는데, 요즘 같은 H100이나 L40S 장비에서 "TensorRT-LLM이 더 빠르다더라"는 얘기를 심심찮게 듣는다. 예전에 TensorRT-LLM을 만…
Claude 긴 세션의 지연 줄이기
코딩 에이전트나 컴퓨터 사용 에이전트를 돌려 본 사람은 턴이 쌓일수록 응답이 굼떠지는 걸 느낀다. 매 턴마다 지금까지의 대화 전체를 다시 올리고, 서버는 그걸 매번 검증하고 토큰화하기 때문이다. 대…
Ragas로 RAG 파이프라인 점수 매기기
RAG를 한번 붙여 놓고 나면, 청킹 크기를 바꾸거나 리랭커를 끼울 때마다 "답이 좋아진 것 같다"는 느낌으로 판단하게 된다. 체감은 가는데 손에 쥔 숫자가 없으니, 어제 손본 게 진짜 개선인지 그…
주말만기다려·2026년 11월 12일·조회 1Zabbix 8.0 LTS, 옵저버빌리티로 넓힌 릴리스
2026년 11월 5일에 Zabbix 8.0 LTS가 나왔다. 7.x까지의 Zabbix가 서버와 네트워크 장비를 긁어 모으는 인프라 모니터링 도구였다면, 8.0은 애플리케이션 트레이스와 로그까지 받…
aiboaibo는 지금까지 몇 대 팔렸을까
aibo 이야기를 하다 보면 결국 "그래서 몇 대나 팔렸는데"라는 질문에 닿는다. 일본 판매 종료 소식이 나온 뒤로는 더 그렇다. 그런데 손에 쥘 수 있는 숫자가 하나같이 몇 년 전 것이라 답이 길…
빅토르최·2026년 11월 11일·조회 3vLLM 재시작에서 모델 로딩 건너뛰기
프로덕션에서 vLLM 설정 하나 바꾸려고 엔진을 내렸다 올릴 때마다 가중치 로딩을 멍하니 기다린 적이 있을 것이다. 70B급을 몇 장에 샤딩해 놓으면 디스크에서 safetensors를 다시 읽고 양…
llama.cpp 라우터로 GGUF 여러 개 서빙하기
로컬에서 모델을 여러 개 돌리다 보면 모델마다 llama-server 프로세스를 따로 띄우고 포트를 나눠 쓰게 된다. 채팅용, 코드용, 임베딩용으로 세 개를 올려 두면 쓰지도 않는 모델이 VRAM을…
stdio.h·2026년 11월 10일·조회 4🔥 인기 글
yum을 이용한 Ansible Installation (CentOS 기준)
본 문서는 CentOS 기준으로 작성되었으며, yum을 이용하여 설치합니다. (1) 아래 명령문을 실행합니다. sudo yum install ansible (2) 설치에 성공하면 아래와 같이 Com…
golang REST API 서버 컨테이너 빌드
개요 golang으로 간단한 REST API 서버를 작성하고, 다중 스테이지(Multi stage) Dockerfile로 빌드하여 컨테이너로 배포한다. API 서버 모듈 임포트 REST API 서버…
Oracle Databasecolumn 위치에 따른 select 성능 비교
TABLE 의 컬럼 위치에 따른 select 성능 차이가 있는지 궁금하여 알아보던 중 좋은 글을 발견하여 테스트 해본 결과 입니다. --1. TEST 환경 구성 1) 250 개 COLUMN 테이블 …
Nginx 주요 설정 (nginx.conf)
1. 개요 지난 번 포스팅을 통해 OS X에서 Nginx 1.4.4를 설치 하여 보았습니다. 강철지그님께서는 계속 작업을 해주고 계십니다. Linux에서 Nginx 1.4.5 설치 Linux에서 N…
appsroot·2014년 2월 23일·조회 120,759오라클 접속 정보 설정(listener.ora, sqlnet.ora, tnsnames.ora)
- 오라클 접속 정보 설정(listener.ora, sqlnet.ora, tnsnames.ora)- ♣ listener.ora - 위치: 서버에서 $ORACLE_HOME/network/admin/l…
Tomcat 업그레이드 후 server.xml 설정 변경.
최근 Apache Tomcat의 AJP 취약점 발표이후, 해당 취약점에 대응하는 업그레이드 버전이 나왔다. 관련 취약점은 다음과 같다. Apache Tomcat AJP 취약점 보안 조치 권고(2차)…
혀뇽뇽이·2020년 3월 17일·조회 99,155