(ej@d ejBd Z"ejFZ$ejJjMd xsdZ'd e(d <da)de(d<da*de(d<da+de(d<dZ,dAdZ-dBdZ.ej^dCdZ0eddde0Z1dhZ2hdZ3e1jiddDdZ5dEd Z6dFd!Z7dGd"Z8dGd#Z9dHd$Z:dId%Z;dJd&Z< dKd'Z=dLd(Z>dMd)Z?dMd*Z@dNd+ZAdNd,ZBGd-d.eZCGd/d0eZDe1jMddOd1ZEe1jd2dPd3ZGe1jd4dQd5ZHe1jd6dRd7ZI dSd8ZJdTd9ZKeLd:k(rddlMZMeMjd;dd?@yy)Uu server.py - Whisper GPU HTTP 서비스 (FastAPI + faster-whisper) 포트: 8200 모델: medium (기본, int8, cuda) + small (lazy 로딩) ) annotationsN)AsyncGenerator)AnyOptional)FastAPIFileForm HTTPExceptionRequest UploadFile) JSONResponsePlainTextResponse) BaseModelz1%(asctime)s [%(levelname)s] %(name)s: %(message)s)levelformatz whisper-gpuWHISPER_API_KEY Optional[str]r medium_model small_modelfloat _last_usediXcddlm}tjd|||dd}tjd||S)u9WhisperModel을 CUDA + int8 양자화로 로드합니다.r) WhisperModelu:WhisperModel 로딩: size=%s device=cuda compute_type=int8cudaint8)device compute_typeu#WhisperModel 로딩 완료: size=%s)faster_whisperrloggerinfo) model_sizermodels L/home/jay/workspace/.worktrees/task-2057-dev2/services/whisper-gpu/server.py_load_whisper_modelr%;s6+ KKLjY F HE KK5zB LcXt tdatjatS)u2small 모델을 lazy 로딩으로 반환합니다.small)rr%timerr&r$get_small_modelr+Es%)'2 J r&cVKtjdttjt }d|j tjtj5|d{dddtjdy7"#1swY!xYww)u@FastAPI lifespan: lazy-load 모드 + 자동 언로드 태스크.uX서버 시작: lazy-load 모드 (모델 미로딩, %d초 미사용 시 자동 언로드)Nu 서버 종료) r r!_UNLOAD_TIMEOUTasyncio create_task_unload_checkercancel contextlibsuppressCancelledError) application unload_tasks r$lifespanr7Ss} KKjl{|%%o&78K    W33 4 KK  s0A0B)2B8B9B=B)BB&"B)zWhisper GPU HTTP Serviceu0faster-whisper 기반 오디오 전사 서비스z1.0.0)title descriptionversionr7z /v1/health>::1 127.0.0.1 localhosthttpcKt||d{S|jjtvr||d{S|jr|jj nd}|t vr||d{S|jjdd}t|xr6tj|jtj}|stdddiS||d{S7777 w)ucX-API-Key 헤더를 검증하는 인증 미들웨어. 다음 경우에는 인증을 건너뜁니다: - WHISPER_API_KEY 환경변수가 설정되지 않은 경우 (인증 비활성화) - 요청 경로가 _AUTH_EXEMPT_PATHS에 포함된 경우 (/v1/health 등) - 요청 출처가 localhost/127.0.0.1인 경우 (로컬 테스트 호환) Nz X-API-KeyidetailzInvalid or missing API key) status_codecontent)rurlpath_AUTH_EXEMPT_PATHSclienthost_LOCALHOST_HOSTSheadersgetboolhmaccompare_digestencoder )request call_next client_host provided_key key_valids r$api_key_auth_middlewarerUosw'''{{--w'''*1'..%%RK&&w'''??&&{B7L\"kt':':<;N;N;PRaRhRhRj'kI ;<  7# ##)(( ( $sFD D+D D;D <D=A?D <D=D D D D cd}||kryy)u오디오 길이에 따라 적절한 모델 크기를 반환합니다. Args: duration_seconds: 오디오 길이 (초) Returns: "small" (30분 미만) 또는 "medium" (30분 이상) g @r(mediumr*)duration_secondsthreshold_30mins r$select_model_for_durationrZs O/) r&cvtja|dk(r tSt t datS)uP모델 이름에 해당하는 인스턴스를 반환합니다. lazy-load 적용.r(rW)r)rr+rr%) model_names r$get_model_instancer]s6JW  *84 r&cN ddl}g}tbda|j dt bda|j d|r@|jjtjddj|yy#t$rtjddadaYywxYw)u6모든 모델을 CUDA 메모리에서 해제합니다.rNu0torch 미설치 — CUDA 캐시 정리 건너뜀rWr(u/모델 언로드 완료: %s, CUDA 캐시 정리z, ) torch ImportErrorr warningrrappendr empty_cacher!join)r_unloadeds r$_unload_modelsrfs H  !      EtyyQYGZ[ IJ   sA??"B$#B$cK tjdd{tdkDrtjtz tkDrt t tjdtjtz t4d{tj}|jdtd{dddd{77I77 #1d{7swYxYww)u=백그라운드 태스크: 10분 미사용 시 모델 해제.<Nru*자동 언로드 시작: %.0f초 미사용) r.sleeprr)r-rrr r! _gpu_lockget_event_looprun_in_executorrf)loops r$r0r0s mmB >diikJ6H';+B @IIK*,%EE"113D..t^DDDEE EDEEEEsjC6CA4C6CC6.C!CC! C6CC6C6C!C6!C3'C* (C3/C6c " tjddddddd|gddd }|jj}|r|d k7r t |Sy#tj t tf$r }tjd |Yd }~yd }~wwxYw)u>ffprobe로 오디오 파일의 길이(초)를 반환합니다.ffprobez-verrorz -show_entrieszformat=durationz-ofz"default=noprint_wrappers=1:nokey=1Tcapture_outputtexttimeoutzN/Au"ffprobe duration 조회 실패: %sNr) subprocessrunstdoutstriprTimeoutExpired ValueErrorFileNotFoundErrorr ra) file_pathresult duration_stres r$get_audio_durationrs@!4   }}**, LE1& &   % %z3D E@;Q?? @sA AB.B  BcKtjd|tjd4d{}|j |d{}|j dddd{t |}tj|dd5}|jj|jcdddS77z7\#1d{7swYlxYw#1swYyxYww)uRURL에서 오디오를 다운로드하여 임시 파일 경로를 반환합니다.u$URL에서 오디오 다운로드: %sg^@ruNF whisper_url_suffixdeleteprefix) r r!httpx AsyncClientrKraise_for_status_get_suffix_from_urltempfileNamedTemporaryFilewriterCname) audio_url http_clientresponsertmps r$download_audio_from_urlrs KK6 B  /$$;$33!!#$$") ,F  $ $F5 X\_ (""#xx $3$$$$ sn1C,CC,C  C C ! C,,C -'C,'C ; C,C  C, CC CC, C)%C,c|jddjdd}d|vrd|jdddzSy)u.URL에서 파일 확장자를 추출합니다.?r/..audio)splitrsplit)rDrEs r$rrsI 99S>!  " "3 ' +D d{T[[a(,,, r&c  Ktj}t4d{tj d|t | |j d fdd{\}}|Dcgc]H}t|jdt|jd|jjdJ}}djd|D}t|dxs} tt|d d } dddd{tj d   t|| | d S77cc}w76#1d{7swYFxYww) u4GPU Lock을 획득한 후 전사를 실행합니다.Nu+전사 시작: model=%s language=%s file=%sc@jrdSddS)N)language beam_size) transcribe)r}rr#sr$z#run_transcription..s4E$$%-%37%r&)startendrt c3&K|] }|d yw)rtNr*).0segs r$ z$run_transcription..!s=SS[=srdurationru5전사 완료: language=%s duration=%.1fs segments=%d)rtsegmentsrr)r.rkrjr r!r]rlroundrrrtryrdgetattrrlen) r}rr\rm segments_rawr!rr full_textdetected_languagerr#s `` @r$run_transcriptionrsS  ! ! #D99 A:xYbc":.#'#7#7  $   d$   syy!,SWWa((   HH=H== #D*h?K8z378+99. KK? H %  ;9  9999sjED8E>E&D;' E2A D=?AE E E -E;E=EEE E EEcN tjgdddd}|jjj ddj}|r t |S y#tj ttf$r }tjd|Yd}~yd}~wwxYw) uDnvidia-smi로 현재 GPU 메모리 사용량(MB)을 반환합니다.)z nvidia-smiz--query-gpu=memory.usedz--format=csv,noheader,nounitsT rr ruGPU 메모리 조회 실패: %sN) rvrwrxryrintrzr{r|r ra)r~ value_strrs r$get_gpu_memory_used_mbr3s=     MM'')//5a8>>@ y> !    % %z3D E=8!<< =sA!A&&B$BB$c|t|dz}|dz}|dz}|dz}|dz}|dz}|dz}|dd|dd|dd|dS)uE초를 SRT 타임스탬프 형식 HH:MM:SS,mmm으로 변환합니다.rh02d:,03drsecondstotal_msmstotal_sstotal_mmhs r$seconds_to_srt_timestamprMlWt^$H DB$G" AmG" A2 AWAaWAaWAbX ..r&c|t|dz}|dz}|dz}|dz}|dz}|dz}|dz}|dd|dd|dd|dS)uE초를 VTT 타임스탬프 형식 HH:MM:SS.mmm으로 변환합니다.rrhrrrrrrs r$seconds_to_vtt_timestamprYrr&c g}t|dD]A\}}t|d}t|d}|j|d|d|d|ddCdj|S)uF세그먼트 목록을 SRT 자막 형식 문자열로 변환합니다.r)rrrr --> rt) enumeraterrbrd)rlinesirstart_tsend_tss r$segments_to_srtresyEHA.G3+CL9)#e*5 s"XJeF82c&k]"EFG 99U r&c dg}|D];}t|d}t|d}|j|d|d|dd=dj|S)uI세그먼트 목록을 WebVTT 자막 형식 문자열로 변환합니다.zWEBVTT rrrrrt)rrbrd)rrrrrs r$segments_to_vttrosj"|EB+CL9)#e*5 zvhbV R@AB 99U r&cBeZdZUded<dZded<dZded<dZded<y ) TranscribeURLRequeststrrkorrWr#jsonrN)__name__ __module__ __qualname____annotations__rr#rr*r&r$rr~s%NHcE3FCr&rc&eZdZUded<dZded<y)YouTubeTranscribeRequestrvideo_idrrN)rrrrrr*r&r$rrsMHcr&rc Kt}tdd|tdndtdnddtdkDrtndt d Sw) uP서비스 상태, 모델 로딩 상태, GPU 메모리 정보를 반환합니다.okrNloadedre)rWr(r)statusrgpu_memory_used_mbmodels last_usedunload_timeout_secrC)rr rrrr-) gpu_mem_mbs r$healthrsT()J ",&2&>(J%0%<*(2A~4"1    sAAz/v1/transcribecz K|jjdd}d|vr |jd{}|jd}|s t dd |jd d }|jd d }|jdd}d} t |d{}t||||d{|r7tjj|r tj|SSS |j'd{} | jd} | t dd| } t | jd d }t | jd d }t | jdd}d} t)| j*}t-j.|dd5}| j1d{}|j3||j4} dddt| |||d{| r7tjj| r tj| SSS7 #t$r}t ddt ||d}~wwxYw77#t$r } tjd| Yd} ~ Sd} ~ wwxYw#t$rtj $r5}tj#d|t ddt ||d}~wt$r5}tj%d|t ddt ||d}~wwxYw#|rctjj|rC tj|w#t$r } tjd| Yd} ~ wd} ~ wwxYwwwxYw7#t$r}t ddt ||d}~wwxYw7#1swYxYw7#t$r } tjd| Yd} ~ Sd} ~ wwxYw#t$rt$r5}tj%d|t ddt ||d}~wwxYw#| rctjj| rC tj| w#t$r } tjd| Yd} ~ wd} ~ wwxYwwwxYww)ut오디오 파일을 전사하여 결과를 반환합니다. multipart/form-data로 파일을 업로드하거나 JSON body로 audio_url을 전달할 수 있습니다. form-data: - file: 오디오 파일 (필수, audio_url 없을 때) - language: 언어 코드 (기본: ko) - model: 모델 크기 (기본: medium) - format: 출력 형식 text|json|srt|vtt (기본: json) JSON body: - audio_url: 오디오 파일 URL (필수) - language: 언어 코드 (기본: ko) - model: 모델 크기 (기본: medium) - format: 출력 형식 (기본: json) z content-typer@zapplication/jsonNuJSON 파싱 실패: rBrAru1JSON body에 audio_url 필드가 필요합니다.rrr#rWrr임시 파일 삭제 실패: %s%오디오 URL 다운로드 실패: %s오디오 URL 접근 실패: u URL 전사 처리 중 오류: %s전사 처리 실패: u폼 데이터 파싱 실패: fileu8파일(file) 또는 audio_url을 제공해야 합니다.Fwhisper_upload_ru#전사 처리 중 오류 발생: %s)rJrKr Exceptionr rr_process_transcriptionosrEexistsunlinkOSErrorr rarHTTPStatusErrorrp exceptionform_get_suffix_from_uploadfilenamerrreadrr)rP content_typebodyrrrr# output_formattmp_path unlink_errr file_field upload_file file_tmp_pathrrrCs r$rrsd&??&&~r:L\) ` 'D$(88K#8 J 88J-(+62 "& R4Y??H/(E=YYBGGNN84RIIh'5xe\\^#&!JM  )K488J-.H (+ ,E623M#'MN()=)=>  ( (uM^ _ %cf',,..G IIg HHM % ,M8UMZZ RWW^^M: N -(;=G( `C:NsSTvh8WX^_ _ `@YRNN#DjQQR  $$ i LL@! DC:WX[\]X^W_8`agh h b   ? CC:PQTUVQWPX8YZ`a a bBGGNN84RIIh'RNN#DjQQR5x$ e6STWXYTZS[4\]cdde&/ % % [ N@*MM N  ^>B6LSQRVH4UV\]]^ RWW^^M: N -( N@*MM N;=s!R;IIIAR;J #I.$J 9I1:J =!R;I44R;8N N NA5R;-P3O O!O )POP!R;(O=R;I I+ I&&I++R;.J 1J 4 J=JR;JR; L-<0K,, L-80L((L--L00"NM)(N) N2N N NNR;N O&OOR;O  O P P$O?:R;?PR;Q0Q  QQ"R84R  R8 R3R.)R8.R33R88R;z/v1/transcribe/urlcxKd} t|jd{}t||j|j|j d{|r7t jj|r t j|SSS7q7?#t$r }tjd|Yd}~Sd}~wwxYw#t$rtj$r5}tj!d|tddt#||d}~wt$$r5}tj'd|tdd t#||d}~wwxYw#|rct jj|rC t j|w#t$r }tjd|Yd}~wd}~wwxYwwwxYww) uJJSON body의 audio_url로 오디오를 다운로드하여 전사합니다.Nrrrrru'URL 전사 처리 중 오류 발생: %srr)rrrrr#rrrErrrr rar rrrprrr)rPr rs r$transcribe_urlrs#HE01B1BCC+Hg6F6F W^WeWeff x0 E (#18Df E@!DD E   e $r }t jAd(|Yd}~Sd}~wwxYw#|ryt6j8j;|rY t7j<|t j d'|w#t>$r }t jAd(|Yd}~wd}~wwxYwwwxYww))uYouTube video_id로 오디오를 다운로드하여 전사합니다. yt-dlp로 베스트 오디오를 /tmp에 다운로드한 뒤 Whisper로 전사하고 임시 파일을 삭제합니다. Request body: - video_id: YouTube 동영상 ID (영숫자 + 하이픈/언더스코어, 11자) - language: 언어 코드 (기본: ko) Returns: { "text": "...", "source": "whisper_local_ytdlp", "duration": 123.4 } z^[a-zA-Z0-9_-]{11}$ruUvideo_id는 영숫자·하이픈·언더스코어로 구성된 11자여야 합니다.rz/tmp/whisper_yt_z.%(ext)szhttps://youtube.com/watch?v=Nu'yt-dlp 다운로드 시작: video_id=%szyt-dlpz-fbaz --no-playlistz-o)rxstderri,ru-yt-dlp 다운로드 타임아웃: video_id=%su4yt-dlp 다운로드 타임아웃 (300초): video_id=rreplace)errorsu&yt-dlp 실패: returncode=%d stderr=%su'yt-dlp 다운로드 실패 (returncode=z): u'yt-dlp 다운로드 완료: video_id=%sz.*uDyt-dlp 다운로드 후 파일을 찾을 수 없습니다: video_id=u$다운로드된 오디오 파일: %su9전사 모델 선택: model=%s duration=%.1fs video_id=%su#전사 실패: video_id=%s error=%srrrtwhisper_local_ytdlpr)rtsourcerru임시 파일 삭제 완료: %sr)!recompilematchrr r r!r.create_subprocess_execrvPIPEwait_for communicate TimeoutErrorrp returncodedecoderyglobrrZrrrrrr rrErrrra)rP _VIDEO_ID_REroutput_template youtube_url audio_pathprocrxrr stderr_textmatched duration_secr\r~r s r$youtube_transcriber,s::45L   g.. /j  H( (;O0 ;K $JNN =xH  77))..))..  D$+#3#3D4D4D4FPS#TTNFF ??a  --y-9??AK LLA4??T_ `@@QQTU`Tab   =xH)).xj;<]^f]gh QZ  :JG**5 .|<  G      ,Z9I9I:VVFv/":.  "''..4 N *% =zJ5:K U##  LLH( SMhZX  LW    BHa P/Ax8  , N@*MM N "''..4 N *% =zJ N@*MM N 5:sAN+L+1AI9I3,I9/I60I97C7L+/J= J; J=L+#!N++K?0N+3I96I99J8 'J33J88L+;J== K<1K77K<<L+? L(L#N+#L((N++"N(+M:9N(: N#NN(N##N((N+c~Kt|}t|}|dvr|n|}|dk(r|dkDr|}tjd||||t |||d{}|dk(rt |dS|dk(rt |d }t |d S|d k(rt|d } t | d St|S7dw) u:실제 전사 처리 및 포맷 변환을 수행합니다.)r(rWlargerWru7모델 선택: hint=%s auto=%s chosen=%s duration=%.1fsNrtrsrtrz text/plain)rC media_typevtt) rrZr r!rrrrr ) r}r model_hintr r auto_model chosen_modelr~ srt_content vtt_contents r$rrs"),H*84J",/K!K:Q[LX(Q,!  KKA %Y,G GF 88 % %fZ&89  NN % %fZ&89  NNF++HsAB=B;A%B=c@|rd|vrd|jdddzSy)u7업로드 파일명에서 확장자를 추출합니다.rrrr)r)rs r$rrs)C8OX__S!,R000 r&__main__z server:appz0.0.0.0i r!r)rHport log_levelworkers)r"rreturnr)r<r)r5rr<zAsyncGenerator[None, None])rPr rQrr<r)rXrr<r)r\rr<r)r<None)r}rr<r)rrr<r)rDrr<r)r}rrrr\rr<zdict[str, Any])r<r)rrr<r)rzlist[dict[str, Any]]r<r)r<r )rPr r<r)rPrr<r)rPrr<r ) r}rrrr2rr rr<r)rrr<r)O__doc__ __future__rr.r2r#rMloggingrrrvrr)collections.abcrtypingrrrfastapirrr r r r fastapi.responsesr rpydanticr basicConfigINFO getLoggerr LockrjenvironrKrrrrrr-r%r+asynccontextmanagerr7apprFrI middlewarerUrZr]rfr0rrrrrrrrrrrrpostrrr,rrruvicornrwr*r&r$rPs#   * KK=  ,, >   = ) GLLN "$0A!B!JdJ c S E ! ! $B   #^4$$L \0 E4 **** *Z 4 / /9y$ ^N^NB E E, "#hN$hN`(,(,(,(, (,  (,V zGKK   r&