_tjW nSrSSKrSSKrSSKrSSKr\R "S5rSrSrSS.S\ 4S jjr g) u Утилиты для работы с PyTorch: CUDA OOM fallback, device management. Использование: from utils.torch_utils import with_cpu_fallback, safe_device_call N AI_StrategycF^[R"T5U4Sj5nU$)uДекоратор: при CUDA OOM переключает на CPU и повторяет вызов. Использует глобальный DEVICE из config для переключения. После успешного вызова на CPU, оставляет устройство CPU для последующих вызовов. Пример: @with_cpu_fallback def load_model(ticker): ... c(>T"U0UD6$![[R4alnS[U5R 5;dS[U5;a:[ R STRS35 [5 T"U0UD6sSnA$eSnAff=f)N out of memoryCUDA⚠ CUDA OOM в !, переключаем на CPU) RuntimeErrortorchOutOfMemoryErrorstrlowerloggerwarning__name___switch_to_cpu)argskwargsefuncs utils/torch_utils.pywrapper"with_cpu_fallback..wrappers (( (e445 #a&,,.0Fc!f4D!1$--@abc T,V,, s! BA B B B  B) functoolswraps)rrs` rwith_cpu_fallbackrs'__T   Nc&[R"S5 SSKnUR5 [R R 5(a[R R5 [RS5 g![a N"f=f)umПереключает глобальное устройство на CPU и очищает GPU память. inferencerNuUУстройство переключено на CPU, GPU память очищена) config set_devicegccollectr cuda is_available empty_cache Exceptionrinfo)r"s rrr*sg k" JJL :: " " $ $ JJ " " $ KKgh    sAB BBT) fallback_cpur)c 6U"U0UD6$![[R4atnU(agS[U5R 5;dS[U5;a;[ R S[USS5S35 [5 U"U0UD6sSnA$eSnAff=f)uuБезопасный вызов функции с fallback на CPU при OOM. Args: func: вызываемая функция fallback_cpu: если True — при OOM повторяет на CPU *args, **kwargs: аргументы для func Returns: Результат func(*args, **kwargs) Raises: RuntimeError: если OOM даже на CPU rrrrunknownr N) r r r r rrrgetattrr)rr)rrrs rsafe_device_callr-7sT$V$$ %00 1 _A >&CPQFBR NN-gdJ .R-SStu v  (( ( s! BA(B BBB) __doc__rloggingr r getLoggerrrrboolr-rrr3sD   = )4 i8<r