Milloin tarvitset tätä
Tiimisi haluavat ajaa tekoälyagentteja ja käyttää pilvipalvelujen malleja, mutta pilviympäristöäsi ei ole rakennettu sitä varten. Agentit päätyvät jaettuihin ympäristöihin pitkäikäisten API-avainten kanssa, eikä kukaan osaa sanoa, mitkä mallit ja alueet ovat sallittuja.
Mikä määrittää tarjouksen
- Yksi pilvi kerrallaan: AWS, Microsoft Azure tai Google Cloud, lisättynä nykyiseen laskeutumisalueeseesi.
- Neljän viikon toteutus kattaa enintään 3 ympäristöä, 2 tekoälytyökuormaa (agenttipalveluja tai tekoälyä käyttäviä sovelluksia), 1 mallien tarjoajan ja 2 tietovarastoa (esimerkiksi yksityisen tietokannan ja välimuistin).
- Kuuden viikon toteutus kattaa enintään 4 ympäristöä, 6 tekoälytyökuormaa, 2 mallien tarjoajaa ja 6 tietovarastoa sekä yhteyden keskitettyyn tekoälyyhdyskäytävääsi.
- Jokainen ympäristö saa oman AWS-tilin, Azure-tilauksen tai Google Cloud -projektin.
- Laajemmista kokonaisuuksista tai toisesta pilvestä annetaan tarjous puhelun jälkeen.
Mikä muuttuu
- Tekoälytyökuormat toimivat omassa osassaan pilviympäristöäsi ja perivät nykyiset suojauksesi.
- Vain hyväksyttyjä malleja ja alueita voi käyttää, ja alusta estää muut.
- Jokaisella agentilla on oma avaimeton identiteetti, joten näet ja voit rajata, mitä kukin agentti tekee.
- Uudet tekoälytyökuormat käynnistyvät koodista testatun perustan päälle eivätkä poikkeusluvalla.
Mitä saat
- Oma paikka tekoälytyökuormille nykyisten suojausten alla: OU, hallintaryhmä tai kansio sekä jokaiselle ympäristölle oma tili, tilaus tai projekti
- Sallittujen mallien ja alueiden lista käytäntöinä: SCP:t, Azure Policy tai Organization Policy
- Avaimeton identiteetti ja vähimmät oikeudet jokaiselle agentille ja sovellukselle
- Yksityiset verkkoyhteydet mallien rajapintoihin ja hallittu ulosmenevä liikenne
- Ajoympäristöpohja agenttipalveluille: kontit, yksityinen tietokanta ja välimuisti
- Käytäntöjen testit, jotka osoittavat suojausten estävän sen, mitä pitääkin, kuten hyväksymättömän mallin kutsun
- Terraform Gitissä, avaimeton CI-putki ja luovutusdokumentaatio
Mitä toteutus kattaa kussakin pilvessä
| Osa-alue | AWS | Azure | Google Cloud |
|---|---|---|---|
| Sijoitus | OU ja oma tili jokaiselle ympäristölle | Hallintaryhmä ja oma tilaus jokaiselle ympäristölle | Kansio ja oma projekti jokaiselle ympäristölle |
| Mallit ja alueet | SCP:t, jotka rajaavat Amazon Bedrockin mallit ja alueet | Azure Policy, joka rajaa alueet ja käyttöön otettavat mallit | Organization Policy -rajoitteet resurssien sijainneille ja sallituille Vertex AI -malleille |
| Agenttien identiteetti | IAM-roolit ECS-tehtäville tai EKS Pod Identity, ei käyttöavaimia | Hallitut identiteetit ja Azure RBAC, ei sovellussalaisuuksia | Liitetyt palvelutilit tai Workload Identity Federation for GKE, ei avaintiedostoja |
| Yksityinen yhteys malleihin | VPC-rajapintapäätepisteet Amazon Bedrockiin | Yksityiset päätepisteet mallirajapintoihin | Private Service Connect ja VPC Service Controls Vertex AI:lle |
| Ajoympäristöpohja | ECS tai EKS, RDS for PostgreSQL, ElastiCache | Container Apps tai AKS, Azure Database for PostgreSQL, Azure Managed Redis | Cloud Run tai GKE, Cloud SQL for PostgreSQL, Memorystore |
| Lokitus | CloudTrail ja Bedrockin mallikutsujen lokitus | Activity log ja diagnostiikka-asetukset | Cloud Audit Logs ja lokinielut |
Ei sisälly
- Uusi koko organisaation laskeutumisalue (tarjotaan laskeutumisaluesprinttinä, jos sellaista ei vielä ole)
- Mallien rakentaminen, koulutus, hienosäätö tai isännöinti sekä GPU-kapasiteetti
- Tekoälyyhdyskäytävän rakentaminen tai ylläpito (liitämme alustan olemassa olevaan yhdyskäytävääsi tai suunnittelemme ratkaisumallin tiimisi kanssa)
- Itse agenttien tai sovellusten tekoälyominaisuuksien rakentaminen
- Mallien arvioinnit, red teaming tai kehoteinjektiotestaus
Mitä tarvitsemme sinulta
- AWS: pääkäyttäjärooli hallintatilillä (management account) tai nykyinen laskeutumisalueen putki OU:n, tilien ja SCP:iden luomiseen.
- Azure: Management Group Contributor ja Resource Policy Contributor kohdehallintaryhmässä sekä laskutusrooli, jolla voi luoda tilauksia.
- Google Cloud: Folder Admin, Project Creator ja Organization Policy Administrator organisaatiotasolla sekä Billing Account User.
- Lista hyväksytyistä malleista ja alueista tai päätöksentekijä, joka voi hyväksyä ne.
- Alustan omistaja ja yksi vetäjä kustakin tekoälytyökuormasta työpajoihin ja pull requestien katselmointiin.
Näin työ etenee
Maksuton 30 minuutin puhelu ja sen jälkeen kirjallinen kiinteähintainen tarjous, joka perustuu ympäristöihin, tekoälytyökuormiin, mallien tarjoajiin ja tietovarastoihin.
Työpaja, jossa sovitaan mukana olevat tekoälytyökuormat, mallit, alueet ja tietojen käsittelysäännöt.
Rakentaminen lyhyinä iteraatioina; katselmoit jokaisen muutoksen pull requestina.
Käytäntöjen testaus todenmukaisilla agenttiskenaarioilla, sitten luovutus ja pohjat seuraavaa agenttia varten.
Lyhyesti
- Kesto
- 4–6 viikkoa
- Hinta
- Kiinteä tarjous maksuttoman 30 minuutin puhelun jälkeen
- Toteuttaja
- Pääarkkitehtimme ja pilvi-insinööri
Liittyvät referenssit
Rayna Tours
Hallittu koti tekoälyagenttipalvelulle
Tekoälyalustan strategia matkailuyritykselle sekä ympäristö sen uudelle tekoälyagenttipalvelulle nykyisellä AWS-alustalla. Yksityiset tietovarastot ja samat suojaukset kuin kaikilla muillakin työkuormilla.
Liittyvät palvelut
Tekoälyriskien pikakartoitus
1–2 viikon kartoitus vain lukuoikeuksin: tekoälytyökalut, mallien avaimet, agentit ja tietovirrat selvitetään, riskit priorisoidaan ja korjaamiseen laaditaan 30/60/90 päivän suunnitelma.
Hallitut tekoälykoodausagentit
Tekoälykoodausagentit oikeisiin repositorioihin hallitusti: kirjatut työskentelysopimukset, lähteisiin perustuvat vastaukset, vain lukuoikeudet pilveen ja ihmisen hyväksyntä ennen jokaista tuotantomuutosta.
Tekoälymallien käyttö ja julkaisuportit
Sovelluksillesi yksi hallittu reitti tekoälymalleihin ja avaimeton varareitti. Mallikutsut pysyvät EU-alueilla, ja generatiiviset ominaisuudet odottavat arviointia ja tietosuojahyväksyntää ennen tuotantoa.