Passer au contenu
Atacloud est en accès anticipé. Nous accueillons des partenaires de conception par vagues. S'inscrire à la liste d'attente
  1. Accueil
  2. Produits
  3. Points de terminaison de modèles

IA

Accès anticipé

Points de terminaison de modèles

Exécutez des modèles d'IA ouverts sur des serveurs canadiens, réservés à vos applications.

Exécutez des modèles d'IA ouverts, ou vos propres versions personnalisées, sur du matériel géré au Canada. Vos applications s'y connectent en privé, sans clés partagées à gérer.

Rejoindre l'accès anticipé

Ouvert aux clients en accès anticipé dans les vagues suivantes. Pas encore offert au grand public.

Fonctionnalités

Fonctionne avec des outils d'IA familiers

Vos développeurs continuent d'utiliser les outils d'IA qu'ils connaissent déjà, simplement dirigés vers une adresse canadienne.

Modèles ouverts, stockés au Canada

Choisissez un modèle prêt à l'emploi ou apportez le vôtre; nous le copions au Canada, et les points de terminaison ne conservent ni vos invites ni les réponses.

Aucune clé susceptible de fuir

Chaque application prouve automatiquement son identité; aucune clé de longue durée ne reste donc dans des fichiers de configuration.

Privé par défaut

Seul votre réseau privé peut joindre un modèle; rien n'est exposé à Internet.

Une juste part pour chaque application

Fixez une limite d'utilisation par application pour qu'un service très actif ne nuise pas aux autres.

S'adapte à la demande

Ajoute de la capacité quand le trafic augmente et la retire en douceur, sans couper les réponses en cours.

Fonctionnement

  1. 1

    Choisissez un modèle et une taille de serveur dans une région canadienne.

  2. 2

    Reliez-le à votre application et fixez une limite d'utilisation.

  3. 3

    Votre application envoie ses requêtes avec des outils d'IA familiers.

ata model-endpoint create llama-assistant --model llama-3.1-8b-instruct --gpu-count 1 --memory-per-gpu 24Gi \
  --network shop --min-replicas 1 --max-replicas 4 --scaling-metric concurrency --scaling-target 16 \
  --region ca-east --residency QC   # startup and drain timeouts stay at their defaults
ata model-endpoint bind llama-assistant --app support-api \
  --tokens-per-minute 20000 --max-concurrent-requests 32   # adds the URL and a refreshed token file, no API key
Aperçu de l'interface. Sous réserve de modifications.

Souveraineté

Vos invites, vos réponses et vos modèles restent au Canada, sans aucun appel à des fournisseurs d'IA situés à l'extérieur du pays.

Questions fréquentes