전체 글 썸네일형 리스트형 생성형 AI 로 만든 실사풍 액션 단편 두 편의 제작 과정과 실패 기록 #생성형AI #AI영상제작 #액션단편 #Wan3 #ElevenLabs #영상파이프라인 #실패기록Ep.2 마지막 옥상 장면 스틸. 미니가 '1234' 쪽지를 든 생성 프레임이다.생성형 AI로 실사풍 액션 코미디 두 편을 하루 만에 완성하였다. Ep.1은 67.7초(720P, 클립 10개)로 약 75분, Ep.2는 140.6초(1080P, 약 35컷, 다운로드 42개)로 도구 개발 포함 약 4.5시간이 걸렸다. 핵심은 셋이다. ① 대사 장면에 자체 음성을 레퍼런스 오디오로 넣어 생성 시점부터 입이 맞는 영상을 얻은 것(출력 음성과 원본 대사의 일치도 0.96~0.99). 레퍼런스 오디오는 영상 모델이 입모양을 맞추도록 입력하는 기준 음성 파일이다. ② 5초 고속 분할과 타격 자동 이펙트(58개), ③ 2 f.. 더보기 RTX 3060을 RTX 4000 Ada로 교체한 뒤의 Gemma 4 및 Qwen3.8 27B 재배치와 성능 측정 RTX 3060 을 빼고 1슬롯 RTX 4000 Ada 를 장착하였다 (일러스트)사무실 워크스테이션의 RTX 3060 8 GB를 1슬롯 규격의 RTX 4000 Ada Generation 20 GB로 교체하여 총 VRAM 용량을 36 GB로 구성하였다. 기기 변경 후 실측 과정에서 전편(RTX 4060 ti + 3060으로 Qwen3.8 27B 설정하기 및 후기) 설정에 적용되었던 --main-gpu 1 옵션이 layer 분할 모드에서 동작하지 않는다는 사실을 확인하였다. 가중치 레이어, spec draft, 멀티모달 프로젝터를 모두 RTX 4000 Ada 단일 카드로 재배치함에 따라 Gemma 4 26B-A4B의 영어 생성 속도는 67 tok/s에서 117 tok/s로 75% 향상되었다(계산: 117.4.. 더보기 RTX 4060 ti + 3060으로 Qwen3.8 27B 설정하기 및 후기 요약RTX 4060 Ti 16GB와 RTX 3060 8GB를 조합한 24GB VRAM 환경에서 Qwen3.8-27B 모델(Q3_K_S 양자화)을 131,072 토큰 컨텍스트 크기로 구동했다. PCIe 대역폭 비대칭(Gen4 x8 및 Gen3 x4) 환경에 맞추어 카드 간 전송량을 최소화하는 레이어 분할(-sm layer) 방식을 채택하고, 디스플레이 출력을 보조 카드인 3060으로 이전하여 4060 Ti의 VRAM을 최대로 확보했다. 여기에 다중 토큰 예측(MTP) 및 FlashAttention 가속과 Q8_0 KV 캐시 양자화를 적용한 결과, 초당 12.8 토큰이던 기본 생성 속도를 최대 32.2 토큰(2.52배 가속)까지 향상시켰으며, 총 22.9GB VRAM 점유 상태에서 1.1GB의 안정적 가용 .. 더보기 llama.cpp 플래그 하나를 2에서 6으로: speculative decoding 초안 길이를 실측으로 정한 기록 #DGXSpark #llamacpp #speculativedecoding #MTP #Qwen3 #로컬LLM #추론최적화플래그 하나를 2에서 6으로 올려서 45k 문서 처리를 65% 빠르게 만든 기록남의 셋업 문서를 읽다가 시작한 일이다. syv-ai/qwen38-27b-rtx3090이라는 저장소가 있고, RTX 3090 한 장에 Qwen3.8-27B를 올리는 설정을 정리해 둔 곳이다. 우리 장비도 아니고 우리가 쓰는 추론 엔진도 아니지만, 단일 사용자 구간을 다루는 장이 통째로 한 축에 대한 이야기였다. speculative decoding에서 초안을 몇 토큰까지 미리 뽑을 것인가 하는 값이다.그 장을 읽고 우리 서버 설정을 열어봤다. 해당 값이 2로 설정돼 있었고, 한 번도 바꿔본 적이 없었다. 모델을.. 더보기 DGX Spark에 음성 비서를 올렸다: TTS·LLM·STT를 전부 로컬로 구성한 기록 #DGXSpark #로컬LLM #음성비서 #TTS #STT #voicecloning #OpenClawDGX Spark에 음성 비서를 올렸다: TTS·LLM·STT를 전부 로컬로 구성한 기록DGX Spark 한 대에서 로컬 LLM 세 개를 상주시켜 쓰고 있었다. GB10에 통합 메모리가 달려 있고(사양 128 GB, 운영체제가 잡는 값 121 GiB), 생성용 26B 모델(16.8 GB), 오디오까지 받는 E4B 모델(4.2 GB), 그리고 별도 용도의 27B 모델(17.6 GB)이 각각 포트를 잡고 있는 구성이다. 이 셋의 가중치만 합쳐도 38.6 GB이고, 여기에 각 서버의 KV 캐시와 여유분이 얹힌다. 그 상태에서 남은 자리는 또 하나의 대형 언어 모델을 올리기에는 애매하고, 비워 두기에는 아까운 크.. 더보기 최신 30B급 dense 모델 Qwen3.8-27B와 Muse-Glimmer 성능 비교, 그리고 로컬 서비스 설정 🎯 최신 30B급 dense 모델 Qwen3.8-27B와 Muse-Glimmer 성능 비교, 그리고 로컬 서비스 설정8월 초에 30B급 로컬 모델 두 개가 나왔다. 메타의 Muse-Glimmer-30B와 알리바바의 Qwen3.8-27B다. 둘 다 dense 구조이고, 4비트로 양자화하면 파일 크기도 16~18GB로 비슷하다. 사양표만 보면 같은 자리를 놓고 다투는 모델이다. 그래서 둘을 DGX Spark 한 대에 번갈아 올려 같은 과제로 재봤다.결과는 사양표와 달랐다. 코딩 과제 54회 시행에서 통과 수는 54 대 52로 두 건 차이인데, 그 성적에 든 시간은 1,322초 대 343초였다. 메모리는 방향이 반대다. 토큰당 KV 캐시 비용이 Qwen3.8 쪽이 두 배 남짓 크다.결론부터 적는다. 30B급.. 더보기 Claude Code slack 환경에서 message injection 개선하기 #ClaudeCode #무인기동 #Slack #managed-settings #MCP #트러블슈팅 다섯 개찰구 중 넷은 저절로 열린다. 하나만 사람이 손을 대야 한다. "WARNING: Loading development channels." Slack 봇을 띄울 때마다 이 문구가 화면 한가운데 떠 있었다. 아래에는 선택지가 둘뿐이다. 1번 로컬 개발용으로 쓰는 중입니다, 2번 나가기. 사람이 1번을 누르기 전까지 세션은 그 자리에서 멈춰 있다.같은 PC에서 Discord 봇은 작업 스케줄러에 올라가 사람 없이 떴다. Slack 봇만 매번 손이 필요했다. 두 세션은 같은 CLI, 같은 권한 모드, 같은 계정으로 도는데 한쪽만 사람을 불렀다. 왜 한쪽만인가. Claude Code 무인 기동을 가로막.. 더보기 DGX Spark 한 대로 로컬 LLM 네 개를 직접 측정했습니다 #로컬LLM #DGXSpark #speculative_decoding #Muse_Glimmer #DeepSeek_V4_Flash #benchmark #llama_cpp 내 컴퓨터 안에서만 돌아가는 LLM으로 코딩과 agent 작업이 정말 되는지, 된다면 장비를 한 대 더 사야 하는지. 저희도 그게 궁금해서 이틀 동안 직접 측정했습니다. 여기서 agent라고 부르는 것은 사람이 시킨 일을 AI가 스스로 여러 단계로 쪼개서, 터미널에 명령을 내리고 그 출력을 읽어 다음 명령을 정해 가며 답에 도달하는 방식을 말합니다. 요즘 코딩 도구들이 대부분 이 방식으로 움직입니다.시험 대상은 새로 나온 모델 두 개에 저희가 쓰고 있던 두 개를 더해 모두 네 개이고, 장비는 DGX Spark 한 대입니다. 같은 고민을 하.. 더보기 이전 1 2 3 4 ··· 40 다음