Machine learning · Modelli che potete eseguire e verificare
Un modello è un componente, non una strategia. Il lavoro sono i dati che lo circondano, la valutazione che lo sostiene e una spiegazione onesta di ciò che non può fare.
Valutazione da 3 giorni · lavoro tecnico 110 EUR all'ora · inferenza sul vostro hardware da 39 EUR al mese · nessuna IVA aggiunta
00
Come sarebbe una buona risposta?
La prima domanda decide la maggior parte di questi progetti: come sarebbe una buona risposta e come sapreste di averla ottenuta?
Molti arrivano come tecnologia in cerca di un compito: qualcuno ha visto cosa fa un modello e ne vuole uno. La prima conversazione utile va nella direzione opposta.
Quale decisione o lavoro deve cambiare? Com'è una buona risposta, con precisione sufficiente perché due persone concordino nel giudicarla? E cosa accade se sbaglia? A volte sbaglierà e deve essere sostenibile.
Raccomandare di risolvere il problema in un altro modo è qui un esito normale anziché una vendita fallita, e di solito dipende da una di due ragioni: i dati da cui apprendere non esistono ancora, oppure una regola svolgerebbe il compito a un costo inferiore e sarebbe anche spiegabile.
Cosa si stabilisce prima
- Il compito espresso come risultato, non come tecnologia
- Com'è una buona risposta e chi decide
- Cosa accade con una risposta errata e come si rileva
- Se esistono dati di apprendimento e se potete usarli lecitamente
- Se basterebbe una regola, una ricerca o un modulo migliore
- Quanto vale se funziona, per fissare il budget della prova
Cosa ricevete
- Una dichiarazione scritta di compito e criteri di accettazione
- Una valutazione onesta sulla sufficienza dei dati
- L'approccio più semplice che potrebbe funzionare, provato per primo
- Costo per scoprirlo separato dal costo per realizzarlo
- Raccomandazione di non procedere quando è giusto
Non incluso: scegliere un modello prima di definire il compito. Così si finisce per possedere una dimostrazione.
01
I dati, che sono quasi tutto il lavoro.
Il modello è la parte facile. Fornirgli dati puliti, tracciabili e leciti non lo è.
Quasi tutte le ore che sembrano dedicate al modello vanno ai dati: trovarli, pulirli, etichettarli e poter spiegare dopo l'origine di ogni elemento.
La provenienza non è burocrazia. Se qualcuno chiede perché il sistema abbia detto qualcosa, la risposta inizia dai dati di apprendimento. Chi non sa rispondere ha un modello che non può difendere.
Acquisirli
- Pipeline dai vostri sistemi attuali, versionate come qualsiasi codice
- Pulizia e deduplicazione con regole scritte, non improvvisate
- Etichettatura: chi, con quale guida e come risolvere disaccordi
- Un insieme riservato prima che qualcuno esamini i dati
- Provenienza per record per rispondere a domande successive
Mantenere la liceità
- Base giuridica stabilita prima di eseguire la prima pipeline
- Dati personali minimizzati e pseudonimizzati quando il compito lo consente
- Conservazione secondo l'obbligo, non la comodità
- Diritto alla cancellazione tecnicamente possibile, non solo promesso
- Registro del trattamento che comprenda addestramento e inferenza
Non incluso: estrarre dati che non avete diritto di usare. Senza provenienza dichiarabile, il modello non è difendibile.
02
Eseguirlo dove potete vederlo.
Inferenza su hardware vostro perché nulla debba uscire per essere utile.
I modelli a pesi aperti bastano per la maggior parte del lavoro reale di un'organizzazione. Eseguirli da soli impedisce che gli input escano.
Conta dove si trova il valore: documenti che non potete inviare fuori, corrispondenza e registri. Un modello alimentato tramite un'API altrui non si può usare sui vostri dati interessanti.
Installazione
- Modello scelto secondo il compito, non una classifica
- Quantizzazione e batch dimensionati per il vostro hardware reale
- Provisioning GPU o spiegazione onesta che basta la CPU
- Servizio di inferenza con limiti, code e controllo di salute
- Pesi versionati per riprodurre una risposta mesi dopo
- Comportamento alternativo in caso di indisponibilità, deciso prima
Gestione
- Latenza e costo misurati per richiesta, non stimati
- Capacità pianificata secondo il traffico reale
- Aggiornamenti provati: un nuovo modello cambia il comportamento
- Registro di quale versione ha risposto a ogni richiesta
- Monitoraggio del guasto importante: risposte errate date con sicurezza
Non incluso: promettere che l'inferenza locale costi sempre meno. Sopra un certo volume sì; sotto, un'API. Faremo quel calcolo onestamente.
03
Risposte fondate sui vostri documenti.
Risposte fondate sui vostri documenti, ognuna con la propria fonte.
La cosa più utile per molte organizzazioni non è un modello che sappia cose, ma uno che trovi il paragrafo giusto in ciò che hanno già e ne indichi l'origine.
Questo è recupero. Il lavoro importante è recuperare, non generare: cosa si indicizza, come si divide, come si aggiorna e se la citazione sostiene davvero la frase.
Realizzazione
- Indicizzazione dei vostri archivi esistenti con i relativi permessi
- Suddivisione secondo il documento, non un numero fisso di caratteri
- Embedding rigenerabili con un modello che conservate
- Aggiornamento: quanto impiega una modifica del documento a cambiare la risposta
- Citazioni su ogni affermazione, verificate nella valutazione
Mantenere l'onestà
- Un "non lo so" visibile, usato, non decorativo
- Rifiutare risposte non sostenute dalle prove recuperate
- Permessi applicati al recupero per evitare letture indebite
- Valutazione con domande a risposta nota a ogni modifica
- Un percorso per correggere una risposta e aggiornare l'indice di conseguenza
Non incluso: un sistema infallibile. Il recupero riduce l'invenzione, non la elimina; una citazione permette di verificare l'errore, non lo rende impossibile.
04
Una cifra difendibile.
Una cifra difendibile, misurata allo stesso modo ogni volta; altrimenti è una dimostrazione.
Senza valutazione non si distingue un sistema utile da uno che ha impressionato una volta. L'insieme di test si scrive prima di realizzare, con casi reali e risposte concordate da esperti del settore.
Si esegue allo stesso modo a ogni modifica e si conserva la cifra anche quando scende.
Come si misura
- Insieme riservato di casi reali, concordato prima di realizzare
- Metriche scelte per il compito, non per fare bella figura
- Stesso sistema di test a ogni modifica per confrontare le cifre
- Revisione umana di un campione: alcune cose sfuggono a ogni metrica
- Monitorare la deriva dopo il lancio: il mondo cambia, il modello no
Cosa si riporta
- Il punteggio, comprese le prove in cui è sceso
- Dove sbaglia, descritto, non nascosto da una media
- Casi da rifiutare e se li ha rifiutati
- Costo e latenza accanto alla qualità: tutti e tre formano il prodotto
- Raccomandazione di fermarsi quando le cifre non giustificano di continuare
Non incluso: un punteggio pubblico come prova di utilità per voi. Un benchmark pubblico misura un compito pubblico.
05
Cosa può decidere.
Cosa può decidere il sistema, cosa deve sottoporre a una persona e il registro che dimostra cosa è accaduto.
Suggerire e decidere sono prodotti diversi con obblighi diversi. Il confine è una decisione progettuale, non una proprietà che emerge da sola.
Si definisce esplicitamente cosa può decidere da solo, cosa deve sottoporre e cosa deve rifiutare. Il registro mostra quale sia accaduto per ogni richiesta.
Controlli
- Dichiarazione scritta di ciò che decide e di ciò che suggerisce soltanto
- Percorso di escalation con una persona dall'altra parte
- Lista di rifiuto: domande a cui non deve rispondere
- Limiti di richieste e gestione degli abusi: un modello è una porta aperta
- Registrazione di prompt e risposte con conservazione secondo l'obbligo
Registri
- Quale versione ha risposto, con quali prove e quando
- Registro del trattamento che comprenda addestramento e inferenza
- Valutazione d'impatto quando l'uso la richiede
- Cronologia della valutazione conservata, non riassunta
- Documentazione per chi erediterà il sistema, non chi l'ha realizzato
Non incluso: consulenza legale sull'AI Act o altre norme. Realizziamo il registro e i controlli; il vostro consulente li legge.
Inizio
Iniziate dal compito.
- Diteci il compito, cosa accettereste come buona risposta e quali dati avete. Non quale modello volete.
- Riceverete una valutazione onesta sulla sufficienza dei dati, l'approccio più semplice da provare e un costo per scoprirlo separato da quello per realizzare.
- Scrivete a
- hello@ave17.com
- Chi siamo
- Apprendimento automatico
Non incluso: un preventivo fisso dal primo messaggio. Scoprire se sia possibile è già lavoro.
A
Come si svolge un progetto di machine learning.
Cinque fasi. Le prime due risparmiano denaro ed entrambe possono terminare deliberatamente il progetto.
| Fase | Cosa accade | Cosa produce |
|---|---|---|
| Definire | Esprimere il compito come risultato e concretizzare una buona risposta. | Compito scritto con criteri di accettazione su cui concordino due persone. |
| Esaminare | Esaminare i dati esistenti: quantità, pulizia, tracciabilità e liceità. | Valutazione onesta di fattibilità, anche "non con questi dati". |
| Riferimento iniziale | Provare la cosa più semplice che potrebbe funzionare: regola, ricerca o modello piccolo. | Una cifra da superare e, a volte, un sistema finito che non richiedeva un modello. |
| Realizzare | Pipeline, servizio di inferenza, recupero e sistema di valutazione. | Sistema attivo e versionato, valutato sempre nello stesso modo. |
| Monitorare | Deriva, costo, rifiuti e risposte errate date con sicurezza. | Un riesame con cifre, comprese quelle scese. |
Non incluso: una data di consegna alla prima conversazione. Prima di esaminare i dati, qualsiasi data è un'ipotesi con un numero.
B
Dove fallisce.
Cinque fallimenti abituali di questo campo, identificati in anticipo. Nessuno è tecnico.
La dimostrazione che non viene mai consegnata
Ha funzionato con i venti esempi scelti da qualcuno. Senza un insieme riservato, nessuno ha scoperto se funzionasse con gli altri mille.
Protezione: scrivere i test prima di realizzare, con casi che nessuno abbia selezionato.
Sicuro, ma sbagliato
Il sistema risponde a tutto perché è stato costruito per rispondere. Gli errori hanno lo stesso aspetto dei successi e nessuno li nota.
Protezione: un percorso di rifiuto e una valutazione che conti i rifiuti come successi.
Non avevamo diritto di usare i dati
Si scopre tardi, di solito da qualcuno esterno; invalida il lavoro anziché ritardarlo.
Protezione: stabilire la base giuridica prima della prima pipeline.
Funziona e nessuno lo usa
È stato costruito accanto al lavoro, non al suo interno; usarlo richiede un passaggio aggiuntivo che nessuno compie.
Protezione: chiedere prima quale lavoro esistente cambierà.
Nessuno se ne occupa dopo il lancio
I modelli derivano, le fonti cambiano e i costi variano. Sei mesi dopo è silenziosamente peggiore e nessuno è responsabile di accorgersene.
Protezione: responsabile identificato alla consegna, con ore disponibili e riesame fissato.
Non incluso: affermare che evitiamo tutti e cinque. Li nominiamo perché possiate verificare durante il progetto se accadono.
C
Cosa non affermeremo.
L'elenco breve. Ogni voce è qualcosa che si afferma in questo campo senza doverlo fare.
Non affermeremo
- Che un modello capisca qualcosa. Prevede e prevedere basta per molto lavoro utile
- Che un punteggio di benchmark si trasferisca al vostro compito
- Che più dati aiutino sempre; oltre un punto aiutano dati migliori, non più dati
- Che il sistema non possa sbagliare o una citazione lo renda corretto
- Che possiamo spiegare perché un modello grande abbia prodotto una frase specifica
Cosa diremo
- L'approccio più semplice praticabile prima di quello più interessante
- Quando una regola supererebbe il modello e sarebbe spiegabile
- Quando la risposta onesta è che i dati non esistono ancora
- Il costo per scoprirlo separato da quello per realizzarlo
- Quale dei cinque fallimenti sta iniziando
Il termine di questo campo è machine learning. Intelligenza artificiale è il termine commerciale per qualcosa che non esiste; usarlo rende più difficile verificare le altre frasi.
Non incluso: eccezioni per un contratto abbastanza grande. Per questo compare in una pagina pubblica, non in una proposta.
D
Quanto costa.
Inferenza su infrastruttura adattata fino a somigliare alla vostra. Non si invia nulla: funziona nel browser ed è una stima, non un preventivo.
| Dove si trova la macchina | Cos'è | Al mese |
|---|---|---|
| Hardware o cloud vostri | fornite la macchina | 39 EUR / mese |
| Nostro · Piccolo | 2 core, 4 GB, 40 GB | 69 EUR / mese |
| Nostro · Medio | 4 core, 8 GB, 80 GB | 119 EUR / mese |
| Nostro · Grande | 8 core, 16 GB, 160 GB | 199 EUR / mese |
| Aggiunto | Tariffa |
|---|---|
| Ogni bridge, bot o servizio aggiuntivo | 10 EUR ciascuno al mese, fino a 24 |
| Assistenza | Cos'è | Al mese |
|---|---|---|
| Standard | incluso | incluso |
| Prioritaria | 199 EUR / mese | 199 EUR / mese |
- Configurazione, una volta
- 590 EUR
- Ingegneria fuori ambito
- 110 EUR l'ora
- Una valutazione
- da 3 giorni a 110 EUR l'ora
- Oltre 1000 utenti
- la scala termina e facciamo un preventivo
Non si aggiunge IVA: non siamo registrati e la cifra mostrata è il totale.
L’avvio si paga una volta; tutto il resto è mensile. L’ingegneria costa 110 EUR all’ora. Un modello che richiede una GPU viene prezzato in base alla scheda effettivamente necessaria, dopo la valutazione.
Non inclusi: lavoro tecnico e scheda grafica. Entrambi si preventivano secondo l'ambito della valutazione.
E
Cosa copre l'assistenza e cosa no.
Gli stessi due livelli delle altre installazioni. Il confine è tra gestire un modello e migliorarlo.
| Standard | Prioritaria | |
|---|---|---|
| Prezzo | incluso | 199 EUR / mese |
| Richieste ogni 30 giorni | 2 | 4 |
| Oltre il limite incluso | si paga alla tariffa oraria | si paga alla tariffa oraria |
| Tempo di risposta | entro 2 giorni lavorativi | entro 8 ore lavorative |
| Interruzioni | si conta, non si addebita mai | si conta, non si addebita mai |
| Canale | una stanza di chat con noi |
Orario lavorativo, dal lunedì al venerdì, esclusi i giorni festivi: una richiesta inviata il venerdì sera riceve risposta il giorno lavorativo successivo. Tre domande distinte in un messaggio contano come tre richieste.
Coperto
- Macchina ferma, irraggiungibile o che restituisce errori
- Guasto di un componente installato con l'installazione, compresi lo stack di servizio e l'indice
- Problemi di sistema: disco, memoria, certificati e backup
- Riconfigurazione richiesta: cambiare modello o limite, ricostruire l'indice con documenti esistenti
- Aggiornamenti di ciò che abbiamo installato e guasti sorti durante essi
Non coperto
- Risposte scadenti del modello. È valutazione e lavoro tecnico con ambito, non una richiesta di assistenza
- Riaddestrare, fare fine-tuning o creare un indice su un nuovo corpus
- Spiegare perché un modello grande abbia prodotto una frase specifica. Nessuno può, come indica il pannello delle affermazioni che non faremo
- Cambio di comportamento di un modello esterno dopo modifiche degli autori
- Scrivere l'applicazione che chiama il modello
- Decidere cosa può decidere il sistema. Spetta a voi; realizziamo il registro della decisione presa
Non incluso: turni di 24 ore. I tempi di risposta sono lavorativi ed espliciti; la clausola 7 non promette disponibilità.
F
Cosa mantenete e come uscire.
Eseguire un modello sul vostro hardware non vale nulla se non potete portarlo via. Ecco i componenti e cosa accade a ciascuno.
- I pesi non sono mai stati nostri
- I modelli sono file a pesi aperti pubblicati dagli autori con le proprie licenze. Non ve li concediamo in licenza né possiamo ritirarli: pagate installazione, valutazione e gestione.
- L'indice e gli embedding
- Indice vettoriale, embedding e pipeline che li ha creati restano sulla macchina e si trasferiscono come sono, senza convertirli in un archivio di commiato. La pipeline è documentata per ricostruire l'indice dai vostri documenti.
- L'insieme di valutazione è la risorsa
- I casi riservati, il codice di punteggio e tutti i punteggi sono vostri e si consegnano con il resto. Senza di essi, il tecnico successivo indovina se una modifica ha migliorato il sistema; il lavoro esiste per evitarlo.
- I prompt e la configurazione
- Versionati e revisionabili dai vostri tecnici, con ogni deviazione dall'impostazione predefinita registrata accanto al motivo.
- I vostri dati sono sempre stati vostri
- I dati restano dove li collocate. Nulla deve lasciare la vostra infrastruttura per essere utile, nulla di ciò che ci inviate viene inserito in un modello e i dati dei clienti non sono mai dati di addestramento. L’accordo sul trattamento rende vincolante questo impegno.
- Andarsene è gratuito
- 1 mese di preavviso per ciascuno, nessuna tariffa di uscita e revoca dell'accesso su richiesta. Il passaggio di consegne costa 110 EUR all'ora; andarsene no. Clausola 13 e pagina di uscita completa.
Non possiamo consegnare un modello mai eseguito o dati mai conservati. Se è stata comprata una scheda per il lavoro, è vostra e resta dov'è; se il modello è sulla nostra macchina, l'installazione migra come qualsiasi altra.
Non incluso: alcun diritto su ciò che è vostro. Le condizioni non ci concedono licenze su dati, documenti o risultati; l'informativa sulla privacy lo dichiara nella propria sezione.
G
I tempi concordati.
I periodi di questo lavoro, ciascuno con la propria clausola. Non cambiano perché l'installazione contiene un modello.
- Prima di iniziare
- Un ordine diventa contratto con la nostra conferma scritta; quanto precede è una stima. La configurazione inizia dopo il pagamento della prima fattura e la fornitura del necessario: dominio, accesso alla vostra macchina se pertinente e directory a cui collegarci. Clausola 4.
- Una richiesta di assistenza standard
- 2 in 30 giorni, con risposta entro 2 giorni lavorativi, incluse con la macchina. Orario lavorativo, dal lunedì al venerdì, esclusi i giorni festivi: una richiesta inviata il venerdì sera riceve risposta il giorno lavorativo successivo.
- Una richiesta di assistenza prioritaria
- 4 in 30 giorni, con risposta entro 8 ore lavorative, a 199 EUR al mese. Lo stesso orario lavorativo. Oltre una delle quote si applicano 110 EUR all'ora.
- Una fattura
- Pagabile entro 14 giorni. Configurazione una volta prima dell'inizio, manutenzione mensile anticipata e lavoro fuori ambito preventivato prima di iniziare e fatturato al termine. Clausola 5.
- Una variazione di prezzo
- Almeno 30 giorni prima dell'applicazione e mai a un mese già fatturato. Clausola 5.
- Una modifica di questi documenti
- Almeno 30 giorni prima di applicare una modifica sostanziale; potete terminare il contratto prima che entri in vigore. Il documento mostra la data vigente e tutte le precedenti sotto. Clausola 14.
- Preavviso per terminare
- 1 mese per iscritto per ciascuna parte. Nessuna motivazione necessaria né tariffa di uscita. Clausola 13.
- Un inadempimento
- Ciascuna parte può terminare subito se l'altra commette un inadempimento sostanziale e non lo sana entro 14 giorni dall'avviso. Clausola 13.
- I vostri dati dopo la cessazione
- I dati personali conservati come responsabile vengono cancellati entro 30 giorni dalla cessazione, prima se richiesto, salvo conservazione obbligatoria per legge. Clausola 13.
- Recesso del consumatore
- Se avete ordinato come privati, non come organizzazione, 14 giorni dalla conclusione del contratto; rimborso entro 14 giorni dal vostro avviso, detratto il lavoro che avete chiesto di iniziare entro quel periodo. Clausole 4 e 5a.
Le date di inizio e consegna sono concordate nell’ambito scritto prima della prima fattura. L’assistenza è conteggiata in ore lavorative secondo la clausola 6 delle condizioni.
Le date di consegna sono concordate nell’ambito scritto del vostro progetto.
H
Con chi avete a che fare.
Con chi trattate e la documentazione relativa.
| Società | AVE17 LTD, registrata in England and Wales, numero 17254143 |
| Indirizzo | 128 City Road, London, EC1V 2NX, United Kingdom |
| Protezione dei dati | Registrata presso l'Information Commissioner's Office, riferimento ZC225076 |
| Contatti | hello@ave17.com |
| Tariffa tecnica | 110 EUR all'ora. Non siamo registrati ai fini IVA e non si aggiunge |
| Valutazione | Da 3 giorni a 110 EUR all'ora, a prezzo fisso secondo un ambito scritto |
| Inferenza | Da 39 EUR al mese sul vostro hardware. La scheda si preventiva secondo quella davvero necessaria al modello, determinata nella valutazione |
| Pagamento | Bonifico o carta. Fatture pagabili entro 14 giorni |
| Preavviso | 1 mese per ciascuna parte, senza motivazione necessaria né tariffa di uscita |
| Accordo di trattamento | Accordo di trattamento dati dell'articolo 28 pubblicato e vigente per tutti i clienti, senza costo |
| Dati di addestramento | Nulla di ciò che inviate addestra alcunché; i dati dei clienti non vengono mai aggregati né migliorano ciò che vendiamo ad altri |
Le condizioni del servizio, l'informativa sulla privacy e l'accordo di trattamento dell'articolo 28 vengono pubblicati integralmente prima di chiedere a chiunque di firmare.
- Scrivete a
- hello@ave17.com
- Chi siamo
- Apprendimento automatico
Non incluso: consulenza legale. Dichiariamo la nostra posizione; i vostri obblighi ai sensi dell'AI Act dell'UE o altre norme richiedono la vostra consulenza. Scriviamo i documenti tecnici che leggerà il vostro consulente.
I
Se non fa per voi.
Compreso il risultato che questa pagina cita più di ogni altro: la valutazione conclude onestamente che il compito non vale la pena. È lavoro completato e si fattura come tale.
- Se la risposta è non procedere
- Una valutazione che consiglia di restare come siete è lavoro finito; la fattura è la stessa che consigliando di costruire. Veniamo pagati per il risultato, non quello preferito, e il prezzo permette di commissionarla prima di impegnarsi.
- Se il lavoro non è quello concordato
- Per i consumatori, il Consumer Rights Act 2015 richiede ragionevole diligenza e competenza e permette di chiedere la ripetizione del lavoro o la riduzione del prezzo; nessun contratto lo elimina, come dice la clausola 5a. Per le organizzazioni, la clausola 12 limita la responsabilità totale in dodici mesi a quanto pagato nel periodo; non promettiamo oltre.
- Se volete lasciare il servizio
- 1 mese di preavviso per entrambe le parti e uscire è gratuito. Ricevete l'installazione così com'è - database, file e configurazione - non un'esportazione di commiato; ritiriamo l'accesso su richiesta. La consegna costa 110 EUR l'ora; l'uscita no. Clausola 13 e pagina completa sull'uscita.
- Se siamo il fornitore sbagliato
- Se un prodotto ospitato comune risolve già il problema, nessuno da voi si assumerà la responsabilità del risultato o conta soltanto il prezzo più basso del trimestre, rifiuteremmo il lavoro. Preferiamo perderlo piuttosto che scoprirlo al terzo mese.
- Se qualcosa si guasta
- Un'interruzione viene conteggiata e non viene mai addebitata in nessuno dei due livelli. Non promette disponibilità, come dice la clausola 7: promettiamo rapidità di risposta, non assenza di guasti.
Tutto è nelle condizioni, nell'accordo di trattamento o nella pagina d'uscita, pubblicati integralmente prima delle firme. Le modifiche si fanno prima lì e poi qui; il documento indica la data di validità.
Non incluso: promettere una cifra che non è stata misurata. Concordare l'accuratezza prima di valutare sarebbe inventarla prima di valutare; il pannello C lo dichiara.
Come funziona
- A · Come si svolge un progetto di machine learning
- B · Dove fallisce
Prima di acquistare
- C · Cosa non affermeremo
- D · Quanto costa
- E · Cosa copre l'assistenza e cosa no
- G · I tempi concordati
Prima di fidarsi
- F · Cosa mantenete e come uscire
- H · Con chi trattate
- I · Se non fa per voi