Carbon bot

Carbon Bot, Chatbot για εταιρεία carbon fiber και σχετικών υλικών

Ένα concept project γύρω από ένα πραγματικό πρόβλημα, μια εταιρεία carbon fiber θα χρειαζόταν έναν τρόπο να αναδείξει και να καταστήσει προσβάσιμο το περιεχόμενο που είναι διάσπαρτο σε έγγραφα και βάσεις δεδομένων, ώστε να είναι εύκολα διαθέσιμο σε πιθανούς πελάτες. Η προφανής λύση: ένα chatbot με RAG και χαμηλή ρύθμιση θερμοκρασίας, εξασφαλίζοντας πραγματολογική ακρίβεια με ταυτόχρονη δυνατότητα δομημένων προτάσεων.

Το Carbon Bot λύνει ένα πρόβλημα που γνωρίζει καλά κάθε τεχνική ομάδα πωλήσεων και υποστήριξης: ο κατάλογος προϊόντων τους είναι κλειδωμένος μέσα σε PDF και τεχνικά φύλλα δεδομένων που κανείς δεν θέλει να διαβάσει. Όταν ένας πελάτης ρωτάει «ποια είναι η εφελκυστική αντοχή του προϊόντος CF-200 και πληροί τις αεροδιαστημικές προδιαγραφές;», η απάντηση υπάρχει κάπου στην τεκμηρίωσή σας, αλλά το πραγματικό πρόβλημα είναι να τη βρεις γρήγορα, με ακρίβεια, χωρίς να επιβαρύνεις έναν ειδικό. Το Carbon Bot μετατρέπει τα υπάρχοντα δεδομένα προϊόντων σας σε μια συνομιλητική βάση γνώσης. Ανεβάζετε ένα φύλλο δεδομένων μία φορά, και από εκεί και πέρα οποιοσδήποτε στην ομάδα σας, ή απευθείας οι πελάτες σας, μπορεί να κάνει ερωτήσεις σε απλή γλώσσα και να λαμβάνει ακριβείς, τεκμηριωμένες απαντήσεις σε δευτερόλεπτα, χωρίς να φύγει από το πρόγραμμα περιήγησης.
Στο υπόβαθρο, το Carbon Bot χρησιμοποιεί μια τεχνική που ονομάζεται Retrieval-Augmented Generation (RAG): αντί να ζητά από το AI να μαντέψει βασισμένο σε γενική γνώση, ανακτά πρώτα το σχετικό τμήμα των πραγματικών δεδομένων του προϊόντος και το χρησιμοποιεί ως βάση για την απάντηση. Το τεχνολογικό stack επιλέχθηκε σκόπιμα για προβλεψιμότητα κόστους και λειτουργική απλότητα. Τα δεδομένα προϊόντων αποθηκεύονται και αναζητούνται στην PostgreSQL με την επέκταση pg_vector, διατηρώντας ολόκληρη τη βάση γνώσης μέσα σε μία μόνο managed βάση δεδομένων, χωρίς ξεχωριστή υπηρεσία vector να χρειάζεται συντήρηση.

Τα embeddings, οι μαθηματικές αναπαραστάσεις που τροφοδοτούν τη σημασιολογική αναζήτηση, παράγονται τοπικά μέσω Ollama, εξαλείφοντας τις χρεώσεις ανά ερώτημα που συσσωρεύονται γρήγορα σε κλίμακα. Το inference (η πραγματική δημιουργία απαντήσεων) εκτελείται μέσω απομακρυσμένης πλατφόρμας, παρέχοντας πρόσβαση σε γλωσσικά μοντέλα κορυφαίας ποιότητας στο κλάσμα του κόστους, με χρήση που παραμένει προβλέψιμη και εύκολη στον προϋπολογισμό.