Клиентот се соочуваше со проблем на креирање ваучер (повеќе полиња во ваучерот) од голем базен на податоци за содржината на индексирање.

Тековното решение вклучува полуавтоматско креирање ваучери користејќи ги неодамнешните достигнувања во NLP и достапноста на претходно обучени модели за генерирање јазици.

Поради фактот што доцнењето за генерирање ваучери не беше погодно за генерирање по барање, главната цел беше да се забрза процесот на креирање, а во исто време да се ослободат и повеќе ресурси.

Врз основа на анализата на проблемот и потребите на клиентот, предложеното решение вклучува фино подесување на посебни модели за секое поединечно поле во ваучерот. Предложеното опкружување за извршување беше одвоено од деловниот процес и беше хоризонтално скалабилно (вклучувајќи ја и поддршката за графичкиот процесор).

Исто така, сложеноста на времето на извршување на моделот беше намалена со користење на onnx време на траење наместо природно времетраење на извршувањето и со намалување на прецизноста на прикажувањето на float број.

Според резултатите (во однос на временската сложеност) добиени на првичниот репер, евалуацијата на предложените модели и предложената хоризонтална архитектура, латентноста на генерирањето ваучери е соодветна за генерирање на барање во реално време при високи оптоварувања.

Проектен тим:

Ѓорѓи Маџаров

Владимир Трајковиќ

Игор Мишковски

Стефан Андонов

INTERTEC Use Case – Automated Voucher Generation

The client deals with the problem of voucher creation (multiple fields in the voucher) out of a large pool of crawled content data.

Current solution incorporates semi-automatic voucher creation using recent advancements in NLP and availability of pretrained models for language generation.

Due to the fact that the voucher generation latency was not suitable for on demand generation, the main goal was to speed up the creation process, at the same time freeing up more resources.

Based on the problem analysis and the needs of the client, the suggested solution includes fine tuning of separate models for each individual field in the voucher. The suggested execution environment was decoupled from the business process and horizontally scalable (including GPU support).

Also, the model’s time execution complexity was reduced by using onnx runtime instead of a native execution runtime and by float number representation precision decreasing. 

According to the results (in terms of time complexity) obtained on the initial benchmark, the  evaluation of the proposed models and the suggested horizontal architecture the voucher generation latency is appropriate for real-time on-demand generation on high loads.

Project team:

Gjorgji Madjarov

Vladimir Trajkovikj

Igor Mishkovski

Stefan Andonov