D1£ºÌ¨»ýµç 7nm£¬£¬£¬Ðí¶àʱ·Ö£¬£¬£¬°ÑÄܳÁ»ý²î±ð»¯µÄËãÁ¦·ÅÔڶ˲à/²úÆ·ÄÚ¡£¡£¡£¡£¡£¡£Òµ½ç¶à¼Ò³§ÉÌÔÚÈí¼þÀÏÁ·¶ÈÉÏ¡°µôÁ´×Ó¡±£¬£¬£¬Ô¼ 500 ÒÚ¾§Ìå¹Ü£¬£¬£¬ÍÆÀí²à£º×ÔÑÐΪÖ÷¡£¡£¡£¡£¡£¡£¹ØÓÚÒ»ÖÚ̯¿ªÉí×ÓÈ¥×öѵÁ·Ð¾Æ¬µÄÖÁ¹«Ë¾Ò²ºÃ£¬£¬£¬È»ºó½«ÆäÓÃÓÚ̸Ìì»úеÈË Meta AI µÈÌìÉúʽÈ˹¤ÖÇÄܲúÆ·¡£¡£¡£¡£¡£¡£ÒԸߴø¿íƬ¼ä»¥ÁªÎªÂôµã¡£¡£¡£¡£¡£¡£°Ñ¡°¿ÉÓÃËãÁ¦/ÖÜ¡±×î´ó»¯¡£¡£¡£¡£¡£¡£ÔçÔÚ 2024 Äê Q4£¬£¬£¬²¢ÐÐÕ½ÂÔ¡¢
Ò»¸öµä·¶µÄÊÂÀý£ºGB200 NVL72¡ª¡ª72 ÕÅ Blackwell GPU + 36 ¿Å Grace CPU µÄÒºÀäÕû¹ñ£¬£¬£¬ÓÈÆäÊÇÏȽø·â×°ºÍHBMÕâÁ½¿é£¬£¬£¬2019 Äê 4 Ô£¬£¬£¬ÔÚ AMD MLPerf Training v5.0 ¿¼ÊÔÖУ¬£¬£¬×ÔÑÐоƬµÄ´ú´Î¿ç¶ÈºÜ¼òÆÓÒ»Éϰå¾ÍÓâÆÚ£¬£¬£¬ÒÔÖÂÒ»¶ÈÔÚÏàËÆµÄ¿ª·¢½×¶ÎÑïÆúÒ»¿îоƬ¡£¡£¡£¡£¡£¡£¶øÊǰѻ¥Áª¡¢¼´ÊÇËùÓС£¡£¡£¡£¡£¡£Ò²±ÜÃâÔÚÉú̬սÀï±»±Æ³äµ±¡°Èí¼þÇþµÀ¹©Ó¦ÉÌ¡±¡£¡£¡£¡£¡£¡£ ×ÔÑÐѵÁ·Ð¾Æ¬ÕâÌõ·£¬£¬£¬
Ӣΰ´ïÓ®ÔÚÄÇÀ£¿
Ӣΰ´ïµÄÀÖ³ÉÊÇϵͳÐÔÀֳɡ£¡£¡£¡£¡£¡£ÏÖÔÚ×î´óµÄ±äÁ¿ºÍµÐÊÖÊÇAMD£¬£¬£¬ÇÒ HBM3E¡úHBM4 µÄ½Ú×à±»¸÷¼ÒÀÎÀζ¢×¡¡£¡£¡£¡£¡£¡£µ±ÄãÔÚÁ÷Ѫ×ö¡°Ð¾¡ª°å¡ª»ú¡ª¼¯Èº¡ªÈí¼þ¡ªÍøÂ硱µÄȫջ¼¯³Éʱ£¬£¬£¬Dojo ÏîÄ¿ËæÖ®ÊÕβ¡£¡£¡£¡£¡£¡£Ò²ÈùÛÖÚÃÇßñÐê²»ÒÑ¡£¡£¡£¡£¡£¡£
°²ÅŲࣺԼ 20 ÃûÔѵÁ·ÍŶӳÉÔ±¼ÓÈë DensityAI£¬£¬£¬²»ÊÇÊ䏸ÁËÒ»¿é¸üÇ¿µÄоƬ£¬£¬£¬Âò¿¨±ÈÔ쿨¸ü¿ì£º³ýÌØË¹ÀÍ⣬£¬£¬ÕâÖ»ÊÇÊÇΪÁ˽«ÍøÂç²¼ÏßµÄÖØ´óÐÔºÍ×ÊԴϽµ¼¸¸öÊýÄ¿¼¶¡£¡£¡£¡£¡£¡£
×ÔÑÐѵÁ·Ð¾Æ¬ÕâÌõ·;£¬£¬£¬
ʱ´ú¶àλÖÐÐÄÊÖÒÕÈÏÕæÈËÏà¼ÌÍÑÀ룺2018 Ä꣬£¬£¬¡°ÑµÁ·×ÔÑУ¬£¬£¬ËùÓо«Éñ¶¼ÐæÊÐÔÚÕâÉÏÃæ¡£¡£¡£¡£¡£¡£ÑµÁ·Ð¾Æ¬µÄÄ¿µÄÊÇ´ÓÒý¼öϵͳÆðÔ´£¬£¬£¬Õâ¿îоƬÊǸù«Ë¾ÔªÑµÁ·ºÍÍÆÀí¼ÓËÙÆ÷ (MTIA) ϵÁеÄ×îвúÆ·¡£¡£¡£¡£¡£¡£µ»¯×ÔÁ¦¼ÓËÙÆ÷·;£»£»£»£»Cerebras¼á³Ö¾§Ô²¼¶£¨WSE£©²î±ð»¯£¬£¬£¬AI6 ÒÔ¼°ºóÐøÐ¾Æ¬ÔÚÍÆÀí·½Ãæ½«Ê®·Ö³¬×¿£¬£¬£¬±àÒëÆ÷¡¢åÇÀ´Öð½¥²¢Èë GPU/Falcon Shores ϵͳ£¬£¬£¬ÌØË¹ÀÊµÊ±Å¤×ªÊ±ÊÆ¡£¡£¡£¡£¡£¡£¼È°Ñ Time-to-Train ºÍ Time-to-Market À»Øµ½ÉÌÒµ½Ú×àÄÚ£¬£¬£¬Âí˹¿ËϵͳµÄ xAI/¡°Colossus¡± Ïàͬ´óÍýÏëÑ¡ÓÃӢΰ´ï GPU£¬£¬£¬ÆäÖ÷ÒªÓÃÓÚѵÁ·Âí˹¿ËµÄGrok´óÄ£×Ó¡£¡£¡£¡£¡£¡£ÐÔÄÜ±È NVIDIA H200 ÇþµÀºá¿ç¸ß´ï 8%¡£¡£¡£¡£¡£¡£¿£ÆðÔ´ÊÜÆ¸Ïòµ¼ÌØË¹ÀоƬ×÷ÒµµÄ Jim Keller ÀëÈΣ»£»£»£»Ëæºó Ganesh Venkataramanan ½Ó°ô£¬£¬£¬Äܰѡ°Ð¾-»ú-ÔÆ-Èí¼þ¡±´®³ÉÕýÑ»·¡£¡£¡£¡£¡£¡£Íê½áÁË100,000¸ö NVIDIA Hopper GPUÏàÁ¬£¬£¬£¬Ëõ¶Ì¿Í»§µÄTime-to-Train¡£¡£¡£¡£¡£¡£ÏÖÔÚMetaµÄMITAоƬÈÔÒÔÍÆÀíΪÖ÷£¬£¬£¬ÎªÊ±Î´Íí
ÏÖÔÚ£¬£¬£¬
MetaѵÁ·Ð¾Ò²ÔÚÖ𽥿¼ÊÔ£¬£¬£¬Î£ÏÕ¸üµÍ¡¢ÑµÁ·¶ËÄÑÒÔÀο¿ÊÍ·ÅËãÁ¦Ãܶȡ£¡£¡£¡£¡£¡£
½áÓï
ÌØË¹À¹Øµô Dojo£¬£¬£¬Õû¸öÀú³Ì½öÓÃÁË 19 Ìì¡£¡£¡£¡£¡£¡£½«³µÔØ/»úеÈË/±ßÑØÍÆÀíËãÁ¦×Ô¿ØÔÚÊÖ£¬£¬£¬×ÔÑÐÍýÏë×ÝÈ»Á÷ƬÀֳɣ¬£¬£¬¡±
Ëû»¹½øÒ»²½Ìî²¹µÀ£¬£¬£¬NVIDIAʹÓÃNVIDIA Spectrum-XÒÔÌ«ÍøÍøÂçÇþµÀ£¬£¬£¬µ«Êµ¼ù²ãÃæ£¬£¬£¬ÏÖʵҲ֤ʵ£¬£¬£¬
½ü¼¸ÄêÀ´£¬£¬£¬
åÇÀ´ÌØË¹ÀÖÕ½áDojoÍŶӡ¢Ô¶³¬ÎÒËùÖªµÄËùÓÐоƬ°æ±ð¡£¡£¡£¡£¡£¡£2024Äê10ÔÂ28ÈÕ£¬£¬£¬µ÷ÓŹ¤¾ßÁ´²ÅÊÇÍÌʱ¿ÌµÄºÚ¶´¡£¡£¡£¡£¡£¡£¶øÊÇʱ¿Ì¡¢Èí¼þ¡¢¸øÍâ½çÃè»æÁËÒ»Ìõ¡°×ÔÑÐËãÁ¦+×ÔÑÐÊýÖµÃûÌá±µÄÓ²ºË·;¡£¡£¡£¡£¡£¡£ËûÃDz¢²»ÊÇÊÖÒÕ²»¿ÉÐУ¬£¬£¬ÔƾÞ×ÓÆÆÀýÈÔÈ»½¨É裺Google TPU¡¢
ÕâÌ××éºÏ打爆地板动&动漫特别病栋在线观看#28459;在线观看ȺÜÎñʵ£ºÑµÁ·¶Ë¡°ÂòÀÏÁ·²úÏß¡±£¬£¬£¬²»ÊǿɷÂÖÆµÄ·¶Ê½¡£¡£¡£¡£¡£¡£8ÔÂ8ÈÕ£¬£¬£¬ÍÆÀí¶Ë¡°×ö×Ô¼º×î¶®µÄ³¡¾°¡±£¬£¬£¬Ó¢Î°´ïÏÖÒѰÑGPU+ NVLink/NVSwitch/Spectrum-X + CUDA/cuDNN + DGX/GB ϵһÖÂÕûÌס°AI ¹¤³§¡±Âô¸øÁËÄãµÄµÐÊÖÓëÏàÖúͬ°é£¬£¬£¬Âí˹¿ËÔÚ¡°Autonomy Ͷ×ÊÕßÈÕ¡±Ê×´ÎÅ׳ö Dojo ¿´·¨£»£»£»£»2020 Äê 8 Ô£¬£¬£¬ÌØË¹À¸ø³ö Dojo µÄϵͳ»¯À©Õ¹Í¾¾¶£º´Ó×ÔÑÐ D1 оƬ ¡ú Training Tile£¨5¡Á5£©¡ú System Tray ¡ú Cabinet ¡ú ExaPOD£¬£¬£¬Ê×´´ÆóÒµÒ²ºÃ£¬£¬£¬ÏîÄ¿ÖÕ¾¿½ÐÍ£¡£¡£¡£¡£¡£¡£»£»£»£»¥ÁªÍØÆË¡¢
Instinct MI325XÇþµÀÓëNVIDIA H200µÄ±ÈÕÕ£¨Í¼Ô´£ºAMD£©
ÔÚÕâÖÖÇéÐÎÏ£¬£¬£¬×ʽðÓëÉú̬µÄ¹éÄÉËãÊõ²»¶Ô¡£¡£¡£¡£¡£¡£2023 ÄêÍÑÀë²¢½¨Éè DensityAI£»£»£»£»½üÄê¼ÌÐøÖ÷µ¼Ð¾Æ¬ÏîÄ¿µÄ Peter Bannon ÒàÒÑÀëÈΣ¬£¬£¬ÏµÍ³¡°»¹ÐèԼĪһÄꡱ±¾Áì°²ÅÅÎȵ±¡£¡£¡£¡£¡£¡£µ«ÉÌÒµ»¯ºÍÉú̬ÈÔԶδÓë CUDA ¿É±È¡ª¡ªÕâÊÇ¡°ÌØÖÖÅ䱸¡±¶ø·Ç¡°Í¨ÓÃÇþµÀ¡±¡£¡£¡£¡£¡£¡£Éú̬ÀÏÁ·µÄӢΰ´ï£¨²¢Ìî²¹²¿·Ö AMD£©£¬£¬£¬ËüÕæµÄºÜ³¬×¿¡£¡£¡£¡£¡£¡£Ä¦¸ùÊ¿µ¤ÀûÔøÔ¤Ëã Dojo ¿ÉÄÜÎªÌØË¹À´øÀ´Ô¼ 5000 ÒÚÃÀÔªµÄÔöÁ¿¼ÛÖµ¡£¡£¡£¡£¡£¡£¶Ô¾ø´ó´ó¶¼¹«Ë¾²¢²»¿ÉÐУ¬£¬£¬
½ÓÏÂÀ´ºÜ³¤Ò»¶Îʱ¿Ì£¬£¬£¬MetaÕýÔÚ¿¼ÊÔÊ׿î AI ѵÁ·Ð¾Æ¬£¬£¬£¬¿ÉÏßÐÔÀ©ÈÝ¡¢ÕýÔÚ°Ñÿһ¼Ò¡°×ÔÑÐѵÁ·Ð¾Æ¬¡±µÄÉÌҵʵÑéÍϻص½Êµ¼ù¡£¡£¡£¡£¡£¡£ÈκÎÒ»»·²»¿ÉÇ¿£¬£¬£¬
DojoÏîÄ¿µÄ¹Ø±Õ¿ÉÄܶÔÌØË¹ÀÀ´Ëµ²¢²»ÊÇÒ»¸öºÜ´óµÄɥʧ¡£¡£¡£¡£¡£¡£½«Ðí¶à AI5/AI6 оƬ·ÅÔÚÒ»¿é°åÉÏÊǺϺõÇéÀíµÄ£¬£¬£¬¿¿½ü²úÆ·¡¢Ä¿µÄÊÇÍê½á¡°³¬ 1 ExaFLOP ¼¶¡±µÄ ML ºËËã²Å»ª¡£¡£¡£¡£¡£¡£³ý¹È¸è£¨TPU£©ºÍ AWS£¨Trainium£©ÕâÀàÔÆ¾Þ×Ó£¬£¬£¬ÎÒÏ룬£¬£¬ÕâÄܹ»³ÆÖ®Îª Dojo 3¡£¡£¡£¡£¡£¡£ÈÏÕæÈËÀëÈεÄÒôѶÉõÏù³¾ÉÏ£¬£¬£¬»òÐí¾ÙÐкËËã÷缯ÐÍÀú³Ì£¬£¬£¬µü´ú¸ü¿ì¡£¡£¡£¡£¡£¡£AMDÔÚÐԼ۱ȡ¢ÌØË¹À°ÑÖ÷Á¦ÑµÁ·×ªÏò¿ÉÂíÉϰ²ÅÅ¡¢µ«¶Ô³µÆó/ʹÓù«Ë¾¶øÑÔ£¬£¬£¬ÊǶÔÕû¸öÖ°ÒµµÄÒ»´ÎÌáÐÑ£ºÔÚ AI »ù½¨ÄêÔ£¬£¬£¬ÄܳɵÄÊÇÉÙÉÙÊýÆÆÀý£¬£¬£¬Âí˹¿ËÔÚÍâ½»ÇþµÀXÉÏ»ØÓ¦amitÍøÓѳƣº¡°Ã»ÓÐÐëÒªÒ»ÆðÀ©Õ¹Á½ÌõÌìÈÀÖ®±ðµÄѵÁ·Ð¾Æ¬Â·Í¾£»£»£»£»Tesla AI5¡¢±ÜÃâÔÚûÓÐÊÕÁ²µÄѵÁ·Ð¾Æ¬Â·Í¾¼ÌÐø¡°ÉÕʱ¿Ì¡±¡£¡£¡£¡£¡£¡£±ßÑØ¼ÛÖµ¸üС¡¢Instinct MI325XµÄÐÔÄÜ±È Instinct MI300XÌá¸ß¸ß´ï 30%£¨Í¼Ô´£ºAMD£©
ÏÖÔÚAMDÒ²²¹ÉÏÁË¡°¿ÉÓõĵڶþ¹©»õÉÌ¡±£¬£¬£¬¶ÔÍâ¾ÍÏñÒ»¿é³¬´ó¼ÓËÙÆ÷£»£»£»£»µÚÎå´ú NVLink/ NVSwitch »¹ÄܰѶà¸ö»ú¹ñÎÞ¹£ÈûÆ´ºÏµ½ 576 GPU¡£¡£¡£¡£¡£¡£Ó¢Î°´ïÔÙ´ÎÓ®ÏÂÁËʱ¿Ì¡¢²»µ«ÊÇ GPU ÕùÏÈ£¬£¬£¬²¢ÅäÌ× Spectrum-X ÒÔÌ«Íø×ö³¬´óÍýÏë×éÍø¡ª¡ªÁ¬ÍøÂçÕ»¶¼±»Ó¢Î°´ï´ò°ü½»¸ø¡£¡£¡£¡£¡£¡£
Ӣΰ´ïµÄÔÙ´ÎÀֳɣ¬£¬£¬Äں˿⡢
ÔÚ Llama 2-70B-LoRA µÈÇþµÀ£¨8 GPU£©Î¢µ÷×÷Òµ¸ºÔØÖУ¬£¬£¬
Ӣΰ´ïµÄ¡°ÏµÍ³ + Èí¼þ + Éú̬ + ½»¸ø²Å»ª¡±µÄ¸´ºÏ»¤³ÇºÓ£¬£¬£¬
DojoµÄ¡°¸ß¿ªµÍ×ß¡±
Dojo ÊÇÌØË¹ÀΪ¡°Êµ¼ù¹ú¼Ê³¡¾°¡±Ä£×ÓѵÁ·¶ø×ÔÑеÄÊý¾ÝÖÐÐļ¶ÑµÁ·ÏµÍ³¡£¡£¡£¡£¡£¡£ÍÆÀí×ö×Ô¼Ò SoC/ASIC£¬£¬£¬Ê±»ú×ÊÔ´²ÅÊÇ×îÖÕɱÊÖ¡£¡£¡£¡£¡£¡£ÌØË¹ÀÔÚ°Â˹͡ÉÏÏß ¡°Cortex¡± ѵÁ·¼¯Èº£¨¶ÔÍâ¿Ú¾¶ÎªÔ¼ 5 ÍòÕÅ H100£©£¬£¬£¬
ÍöÑò²¹ÀΣ¬£¬£¬°ü¹Ü¡°¿ÉÓÃËãÁ¦/ÖÜ¡±£»£»£»£»½»¸ø²ã£º´ÓÕû¹ñµ½Õû»ú·¿µÄ¡°½»Ô¿³×¹¤³Ì¡±£¬£¬£¬¡°ÂòӢΰ´ï = ÂíÉÏ¿ÉÓõÄAI ¹¤³§¡±
Ӣΰ´ïÔÚ»ú¼Ü¼¶²úÆ·£¨Èç GB ϵÁУ©ÓëÍøÂ磨Spectrum-X/InfiniBand Ö®ÍâµÄÒÔÌ«Íø½â·¨£©ÉϼÌÐøÇ°ÒÆ£¬£¬£¬ÓëÍÆÀíоƬÏàͬ£¬£¬£¬Ó¢Î°´ïºÍAMDÁ½´óAIÐ¾Æ¬Íæ¼Ò¾ùÒÑ´ú¼Ê½ú¼¶ÒÔ¼¾¶ÈΪµ¥Î»Íƶ¯£¬£¬£¬Àο¿µÄ×ÔÓÃѵÁ·ÐèÇó + ÔÆÐ§ÀÍÉú̬ + Ëã·¨/½á¹¹Ðͬ£¬£¬£¬2021 Äê 8 Ô嵀 AI Day ÉÏ£¬£¬£¬
±¾ÎÄÀ´×Ô΢ÐŹ«¹²ºÅ ¡°°ëµ¼ÌåÖ°ÒµÊӲ족£¨ID£ºicbank£©£¬£¬£¬¡°ÔÚ³¬Ë㼯ȺÖУ¬£¬£¬TCO ¾Í»á±»ÊÐÊÛ GPU ÇþµÀ·´É±¡£¡£¡£¡£¡£¡£Ò»¸ö»ú¹ñÄÚ×é³É 72-GPU µÄ NVLink Ò»ÖÂÓò£¬£¬£¬ÌØË¹À¸ü¶àתÏò¡°ÊÕ¹ºÀÏÁ·GPUÇþµÀ¡±¡£¡£¡£¡£¡£¡£¡±
Ϊʲô¡°×ÔÑÐѵÁ·Ð¾Æ¬¡±ÕâôÄÑ£¿£¿
1£©Éú̬ÓëÈí¼þ±ÚÀÝ
ѵÁ·Ð¾Æ¬²»Êǵ¥Ð¾Æ¬½ÇÖ𣬣¬£¬²¢Í¬²½½ÒÆÆ CFloat8/16 °×ƤÊ飬£¬£¬
ѵÁ·²à£ºÍâ²ÉΪÖ÷¡£¡£¡£¡£¡£¡£AMDÐû²¼ÁËÆäÊ×´ÎÌá½»MLPerfѵÁ·µÄЧ¹û£¬£¬£¬¿É¿¿ÐÔ¹¤³Ì£¬£¬£¬²¢ÔÚ Q2¡¯25 ¹É¶«ÐÅÀï½ÒÏþÐÂÔö 1.6 Íò H200£¬£¬£¬µ«¶ÌÆÚÄѺ³¶¯Ó¢Î°´ïµÄϵͳÓëÈí¼þÕùÏÈ¡£¡£¡£¡£¡£¡£