Μηχανική προϊόντος με πυρήνα την τεχνητή νοημοσύνη

Οι περισσότερες λειτουργίες τεχνητής νοημοσύνης αποτυγχάνουν στο ίδιο σημείο. Η επίδειξη δουλεύει, και μετά το μοντέλο επιστρέφει κείμενο εκεί που η εφαρμογή χρειαζόταν μια τιμή. Φτιάχνουμε λειτουργίες που περιορίζουν το μοντέλο αντί να ελπίζουν σε αυτό: επιβεβλημένη δομημένη έξοδος και χρήση εργαλείων, ώστε το αποτέλεσμα να φτάνει ως αντικείμενο με τύπο, πάνω στο οποίο μπορεί να στηριχθεί το υπόλοιπο σύστημα.

Οι απαντήσεις τεκμηριώνονται στο υλικό του ίδιου του πελάτη μέσω ανάκτησης, δεν αφήνονται στη μνήμη του μοντέλου. Εκεί που η δουλειά γίνεται μακριά από το δίκτυο, η εξαγωγή συμπερασμάτων τρέχει στη συσκευή. Η μη έμπιστη είσοδος που φτάνει σε ένα μοντέλο παραμένει μη έμπιστη: μια οδηγία κρυμμένη μέσα σε ένα έγγραφο δεν μπορεί να αλλάξει το τι κάνει η λειτουργία.

Κάθε prompt αξιολογείται πάνω σε ένα σταθερό σύνολο περιπτώσεων πριν από την κυκλοφορία, και κάθε κλήση καταγράφεται μετά. Μια αλλαγή στη συμπεριφορά του μοντέλου εμφανίζεται τότε ως δοκιμή που αποτυγχάνει και όχι ως αίτημα υποστήριξης — αυτή είναι η διαφορά ανάμεσα σε μια λειτουργία τεχνητής νοημοσύνης που μπορείς να κυκλοφορήσεις και σε μία που μπορείς να κρατήσεις.