Milloin tarvitset tätä
Tuotetiimisi rakentavat tekoälyominaisuuksia, ja jokainen tiimi ottaa käyttöön oman API-avaimensa malleihin. Kukaan ei osaa sanoa, mitä malleja kutsutaan, millä alueella tai kuka päätti, että ominaisuus on valmis asiakkaille.
Mikä määrittää tarjouksen
- Laajuuden määräävät mukana olevat tekoälyä käyttävät sovellukset, mallien tarjoajat ja ympäristöt.
- Kahden viikon toimeksianto kattaa enintään 2 tekoälyä käyttävää sovellusta, 1 mallien tarjoajan ja 3 ympäristöä (esimerkiksi kehitys, testi ja tuotanto).
- Kolmen viikon toimeksianto kattaa enintään 5 tekoälyä käyttävää sovellusta, 2 mallien tarjoajaa ja 4 ympäristöä.
- Laajemmista kokonaisuuksista annetaan tarjous puhelun jälkeen.
Mikä muuttuu
- Jokainen sovellus kutsuu tekoälymalleja samaa sovittua reittiä, eikä mallien avaimia ole koodissa tai putkissa.
- Mallikutsut pysyvät EU-alueilla, ja jokaisen tekoälyominaisuuden voi kytkeä päälle tai pois ympäristökohtaisesti infrastruktuurikoodissa.
- Avaimeton varareitti on valmiina, jos keskitetty tekoälyyhdyskäytävä ei ole käytettävissä.
- Generatiiviset ominaisuudet pääsevät tuotantoon vasta arvioinnin ja kirjatun tietosuojahyväksynnän jälkeen.
Mitä saat
- Mallien käytön arkkitehtuuri ja päätöskirjaus, katselmoitu tiimisi kanssa
- Jokaisen sovelluksen integrointi keskitettyyn tekoälyyhdyskäytävääsi pääreitiksi, jos sellainen on käytössä
- Avaimeton varareitti suoraan mallien tarjoajalle: IAM-rooli Amazon Bedrockiin, hallittu identiteetti Azuren mallirajapintoihin tai palvelutili Vertex AI:hin
- Mallikutsujen rajaus EU-alueille infrastruktuurikoodissa
- Tekoälyominaisuuksien kytkimet ympäristöittäin infrastruktuurikoodissa
- Julkaisuportti, joka pitää generatiiviset ominaisuudet pois päältä tuotannossa, kunnes arvioinnin tulos ja tietosuojahyväksyntä on kirjattu
- Ajo-ohje reitin vaihtamiseen ja ominaisuuksien sammuttamiseen
Paketti perustuu ratkaisumalliin, joka on jo tuotannossa tekoälyä käyttävässä sovelluksessa: sovellus kutsuu keskitettyä tekoälyyhdyskäytävää, siirtyy tarvittaessa avaimettomaan suoraan mallien käyttöön, pitää mallikutsut EU-alueilla, kytkee tekoälyominaisuudet infrastruktuurikoodissa ja pitää generatiiviset ominaisuudet pois päältä tuotannossa, kunnes arviointi ja tietosuojahyväksyntä on tehty. Jos keskitettyä tekoälyyhdyskäytävää ei vielä ole, avaimeton reitti toimii pääreittinä.
Ei sisälly
- Tekoälyyhdyskäytävän rakentaminen tai ylläpito (integroimme sovelluksesi olemassa olevaan yhdyskäytävääsi tai suunnittelemme ratkaisumallin alustatiimisi kanssa)
- Mallien arviointien tekeminen; tiimisi tekee arvioinnin, ja portti kirjaa tuloksen
- Tietosuojan vaikutustenarvioinnit tai oikeudellinen neuvonta
- Itse tekoälyominaisuuksien rakentaminen
- Mallien isännöinti, hienosäätö tai GPU-kapasiteetti
Mitä tarvitsemme sinulta
- Kirjoitusoikeudet mukana oleviin sovellus- ja infrastruktuurirepositorioihin; jokainen muutos tulee pull requestina.
- Yhdyskäytävän osoite, tunnistautumistapa ja käyttökiintiöt sitä ylläpitävältä tiimiltä.
- Putki tai alustainsinööri, joka voi viedä infrastruktuurikoodin jokaiseen ympäristöön.
- Nimetyt hyväksyjät tuotteelle, tietoturvalle ja tietosuojalle.
Näin työ etenee
Maksuton 30 minuutin puhelu, jossa lasketaan tekoälyä käyttävät sovellukset, mallien tarjoajat ja ympäristöt, ja sen jälkeen kirjallinen kiinteähintainen tarjous.
Kartoitetaan tekoälyominaisuudet, niiden kutsumat mallit ja niille lähetettävät tiedot, ja sovitaan arkkitehtuuri ja hyväksyntäsäännöt.
Reitit, kytkimet ja portti rakennetaan koodina; katselmoit jokaisen muutoksen pull requestina.
Varareitille vaihtaminen ja ominaisuuden sammuttaminen testataan, minkä jälkeen ratkaisu luovutetaan.
Lyhyesti
- Kesto
- 2–3 viikkoa
- Hinta
- Kiinteä tarjous maksuttoman 30 minuutin puhelun jälkeen
- Toteuttaja
- Pääarkkitehtimme
Liittyvät palvelut
Tekoälyriskien pikakartoitus
1–2 viikon kartoitus vain lukuoikeuksin: tekoälytyökalut, mallien avaimet, agentit ja tietovirrat selvitetään, riskit priorisoidaan ja korjaamiseen laaditaan 30/60/90 päivän suunnitelma.
Hallitut tekoälykoodausagentit
Tekoälykoodausagentit oikeisiin repositorioihin hallitusti: kirjatut työskentelysopimukset, lähteisiin perustuvat vastaukset, vain lukuoikeudet pilveen ja ihmisen hyväksyntä ennen jokaista tuotantomuutosta.
Tekoälyalustan laskeutumisalue
Tekoälyagenteille ja tekoälyä käyttäville sovelluksille hallittu paikka pilvessäsi, koodina 4–6 viikossa: periytyvät suojaukset, vain hyväksytyt mallit ja alueet sekä avaimeton identiteetti jokaiselle agentille.