Сайттағы AI-чатбот
Архитектордың сайты болуы керек. Сайтта портфолио болуы керек. Ал портфолио сөйлей алса ше?
Идея
Келуші сайтқа кіреді. Тәжірибем, стегім, жұмысқа көзқарасым туралы білгісі келеді. Беттерді парақтауға болады. Немесе жай сұрауға болады. Тікелей чат, тек арғы жағында мен емес - менің виртуалды клоным, CV-м, жобаларым және жарияланымдарым бойынша оқытылған.
2018 жылғы батырмалар ағашы бар чат-бот емес. Табиғи тілдегі толыққанды диалог.
Архитектура
API-дың үстіне зор system prompt жапсырған қарапайым wrapper жасағым келмеді. Өмірбаян, жобалар, стек, жарияланымдар - мұның бәрі контекст терезесіне шығынсыз сыймайды. Сыйса да - әрбір сұрау токендерді бекерге жұмсайды.
Оның орнына - RAG. Барлық деректер фрагменттерге бөлініп, векторлық базада сақталады. Әрбір сұраққа бот алдымен embeddings арқылы қатысты бөліктерді іздейді. Kubernetes туралы үш абзац тапты - тек соларды жібереді. Білім туралы сұрады - тек білімді тартады.
Векторлық база ақылды кэш сияқты жұмыс істейді: Claude Haiku 3.5 толық өмірбаяннан емес, шағын контекст алады. Аз токен, жылдам жауап, арзан шот.
Стек
- FastAPI - бэкенд, async дайын күйінде
- Claude Haiku 3.5 - диалогқа жылдам әрі арзан модель
- Embeddings + векторлық база - қатысты контекстті іздеу
- Hetzner Cloud - хостинг
- Nginx - reverse proxy
Не біледі
Бот мен білетіннің бәрін біледі - тек кәсіби жағын. Стек туралы сұрасаңыз - жауап береді. Нақты саладағы тәжірибе туралы - қатысты жобаларды табады. Архитектураға көзқарасым туралы - айтып береді.
Білмесе - шынымен айтады. Болмаған жобаларды ойдан шығармайды, жоқ дағдыларды қоспайды. System prompt қиялды қатаң шектейді.
Не үшін
Үш себеп:
- Конверсия. Келуші сұрақтарына лезде жауап алады, беттерді іздемейді
- Көрсету. Өз AI-өнімін жасаған архитектордың сайты - CV-дегі кез келген жолдан күштірек
- Қызығушылық. Жасап көргім келді, production-да қалай жұмыс істейтінін көргім келді
Байқап көріңіз - чат батырмасы imarch.dev сайтының төменгі оң жақ бұрышында. Немесе өз сайтыңызға осындай жасағыңыз келсе, хабарласыңыз.
