Ярослав Бондарев

AI Engineer · LLM / GenAI

Довожу LLM-системы до прода: оркестрация нескольких моделей, RAG и гибридный поиск, ASR, eval-пайплайны и self-hosted inference. Решения по цифрам, а не по ощущению.

Проекты

ClipsForge

shorts-from-streamОстановлен осознанно2026

Запись стрима → 8–15 готовых к публикации вертикальных клипов с прожжёнными субтитрами, подписями и хэштегами.

18 минут

обработка 7-часового эфира — было 35

9 минут

расшифровка речи в текст с точностью до слова

~40 ₽

аренда видеокарт на один прогон

LLM-pipeline
WhisperX
vLLM
Terraform
FastAPI
Next.js

Код приватный

Мини-RAG

rag-ru-reportsДемо онлайн2026

RAG по годовым отчётам российских эмитентов: вопрос на русском → ответ с цитатами и ссылками на исходные PDF. Целиком на бесплатном плане Cloudflare.

80%

recall@5 — при 50 векторах вместо 4 835

3 мс

CPU на запрос из бюджета в 10

0 ₽

инфраструктуры

RAG
BM25/FTS5
bge-m3
int8
eval
Cloudflare Workers

Демо GitHub

OpticsERP

В проде2026

Offline-first POS/ERP для сети оптик: касса продаёт и печатает фискальный чек ≥8 часов без связи с ОФД и не теряет ни одного чека после восстановления.

точка в ежедневной эксплуатации

≥8 ч

автономной работы кассы

вендора ККТ за одним API

Odoo 17
FastAPI
offline-first
54-ФЗ
PostgreSQL
SQLite

Код приватный

Стек

LLM / GenAI

LangGraph
LangChain
Claude
GPT
Gemini
ансамбли моделей
prompt engineering
агентные сценарии
eval и A/B

RAG и поиск

гибридный retrieval
BM25 / FTS5
bge-m3
int8-квантизация
чанкинг с таблицами
recall@k
grounding-проверка

ASR и голос

Whisper
WhisperX
faster-whisper
диаризация NeMo
pyannote
AssemblyAI
ElevenLabs

Inference и MLOps

vLLM
AWQ
KV-cache / VRAM
GPU в облаке
инженерия стоимости
Logfire
OpenTelemetry

Backend и данные

Python
FastAPI
Flask
SQLAlchemy
PySpark
pandas
ETL
PostgreSQL
SQLite
SQL Server
Oracle

Web и инфраструктура

TypeScript
Next.js
React
Cloudflare Workers
AWS
Terraform
Docker
GitHub Actions
Linux