¹éÁØÈ£ Ç»¸®¿À»çAI ´ëÇ¥´Â 3ÀÏ ¡°³»³â 1¿ùºÎÅÍ ºÏ¹Ì °í°´»ç°¡ º»°ÝÀûÀ¸·Î Â÷¼¼´ë AI ¹ÝµµÃ¼ '·¹´Ï°ÔÀ̵å(RNGD)' ¼º´ÉÀ» Æò°¡ÇÒ ¿¹Á¤¡±À̶ó¸ç ¡°´ÙÀ½ ´Þ Áß¼øºÎÅÍ´Â »ï¼ºÀüÀÚ°¡ ¼º´É Æò°¡¸¦ ½ÃÀÛÇÑ´Ù¡±°í ¸»Çß´Ù.
¹é ´ëÇ¥´Â À̳¯ ¼¿ï °ü¾Ç±¸ ¼¿ï´ë °ü¾ÇÄ·ÆÛ½º¿¡¼ ¼¿ï´ë ÀΰøÁö´É ¹ÝµµÃ¼ ´ëÇпø ÁÖÃÖ·Î ¿¸° ¡®Á¦2ȸ ¼¿ï´ë AI ¹ÝµµÃ¼ Æ÷·³(SAISF)¡¯¿¡¼ ¡°ÇöÀç LG°¡ ÃÊ°Å´ë AI ¸ðµ¨ ¿¢»ç¿ø(Exaone)À» È°¿ëÇØ ·¹´Ï°ÔÀÌµå ¼º´ÉÀ» Æò°¡ ÁßÀÌ°í »ç¿ìµð ¾Æ¶÷ÄÚµµ ·¹´Ï°ÔÀ̵å 70B ¸ðµ¨ Å×½ºÆ®¸¦ ÁøÇà Áß¡±À̶ó¸ç ÀÌ°°ÀÌ ¹àÇû´Ù. ¹é ´ëÇ¥´Â ÀÌ¾î ¡°³»³â 2ºÐ±âºÎÅÍ ´ë·® »ý»ê ¸ÅÃâÀÌ ½ÃÀÛµÉ °ÍÀ¸·Î ¿¹»óÇÑ´Ù¡±°í Çß´Ù.
·¹´Ï°ÔÀ̵å´Â Ç»¸®¿À»çAI°¡ ¾à 4³â¿¡ °ÉÃÄ °³¹ßÇÑ ±Û·Î¹ú ÃÖÃÊ HBM3¸¦ žÀçÇÑ Ã߷пë AI ¹ÝµµÃ¼´Ù. Áö³ 5¿ù TSMC·ÎºÎÅÍ Ã¹ »ùÇÃÀ» ¹Þ¾Ò°í Áö³ 8¿ù ¹Ì±¹ ½ºÅÄÆÛµå´ë¿¡¼ ¿¸° ¹ÝµµÃ¼ ¾÷°è ÇмúÇà»ç ¡®ÇÖ Ä¨½º(Hot Chips) 2024 ÄÜÆÛ·±½º¡¯¿¡¼ Á¦Ç°À» óÀ½À¸·Î °ø°³Çß´Ù. ´ëÇ¥Àû ´ë±Ô¸ð¾ð¾î¸ðµ¨(LLM)ÀÎ ¶ó¸¶(Llama)3.1 70B ¸ðµ¨¿¡ ´ëÇÑ µ¥¸ðµµ ½ÃÇöÇÏ¸ç ±Û·Î¹ú AI ½ÃÀå¿¡¼ ±â¼ú·ÂÀ» ÀÔÁõÇß´Ù.
·¹´Ï°ÔÀ̵å´Â NVIDIA A100°ú À¯»çÇÑ 12.4 QPS(Queries Per Second, ÃÊ´ç 12.4°³ÀÇ Äõ¸®¸¦ ó¸®)ÀÇ Ã³¸® ¼Óµµ¸¦ Á¦°øÇϸ鼵µ Àü·Â È¿À²ÀÌ 50% ´õ ¶Ù¾î³ª´Ù. QPS°¡ ³ôÀ¸¸é ´õ ¸¹Àº »ç¿ëÀÚ ¿äûÀ» ó¸®ÇÒ ¼ö ÀÖ´Ù. Äõ¸®´Â »ç¿ëÀÚ°¡ ÀÔ·ÂÇÏ´Â Áú¹®, ¿äû, ¸í·ÉÀ» ¶æÇÑ´Ù. ¹é ´ëÇ¥´Â ¡°HBM3 ¸Þ¸ð¸®¸¦ äÅÃÇÔÀ¸·Î½á LLM¿¡¼ °¡Àå Å« ¹®Á¦·Î ²ÅÈ÷´Â ¸Þ¸ð¸® º´¸ñ Çö»óÀ» ÇØ°áÇß´Ù¡±¸ç ·¹´Ï°ÔÀ̵åÀÇ ¼º´É°ú È¿À²¼ºÀ» °Á¶Çß´Ù.
¹é ´ëÇ¥´Â¡°·¹´Ï°ÔÀ̵å´Â TDP(Thermal Design Power, ¿ ¼³°è Àü·Â)°¡ 150~200W ¼öÁØÀ¸·Î ±âÁ¸ µ¥ÀÌÅͼ¾ÅÍ È¯°æ°ú ³ôÀº ȣȯ¼ºÀ» À¯ÁöÇϸç LLM Ãß·Ð ÀÛ¾÷¿¡¼ ÃÖÀûÀÇ ¼º´ÉÀ» ¹ßÈÖÇÑ´Ù¡±°í Çß´Ù. TDP(Thermal Design Power¡¤¿ ¼³°è Àü·Â)À¸·Î ¹ÝµµÃ¼³ª ÇÁ·Î¼¼¼°¡ ÃÖ´ë ºÎÇÏ·Î ÀÛµ¿ÇÒ ¶§ ¹æÃâÇÏ´Â ¿ÀÇ ÃÖ´ë·®À» ÃøÁ¤ÇÑ °ªÀ» ¸»ÇÑ´Ù. TDP°¡ ³·À»¼ö·Ï Àü·Â ¼Òºñ·®ÀÌ Àû°í, ¿¡³ÊÁö È¿À²ÀÌ ³ôÀº ĨÀÌ´Ù.
¿£ºñµð¾Æ Á᫐ ±×·¡ÇÈó¸®ÀåÄ¡(GPU) »ýÅ°迡¼ Ç»¸®¿À»çAI´Â µ¶ÀÚÀûÀÎ ±â¼ú·ÂÀ¸·Î »õ·Î¿î °æÀï ±¸µµ¸¦ ¸¸µé¾î°¥ °ÍÀ¸·Î ¿¹»óµÈ´Ù. ¹é ´ëÇ¥´Â ¡°AI ¹ÝµµÃ¼´Â ´Ü¼øÇÑ ¼º´É °æÀïÀ» ³Ñ¾î ¿¡³ÊÁö È¿À²¼º°ú ºñ¿ë È¿À²¼ºÀ» ÅëÇÑ Áö¼Ó °¡´É¼ºÀÌ Çٽɡ±À̶ó¸ç ¡°Ç»¸®¿À»çAI´Â Áö¼Ó °¡´ÉÇÑ AI ÄÄÇ»Æà ¼Ö·ç¼ÇÀ» Á¦°øÇÏ´Â µ¥ ÁßÁ¡À» µÎ°í ÀÖ´Ù¡±°í Çß´Ù.
¹é ´ëÇ¥´Â »ï¼ºÀüÀÚ ¸Þ¸ð¸®»ç¾÷ºÎ ¿£Áö´Ï¾î, ¹Ì±¹ ¹ÝµµÃ¼ ȸ»ç AMD GPUÆÀ ¿£Áö´Ï¾î·Î ±Ù¹«ÇÏ´Ù 2017³â Ç»¸®¿À»çAI¸¦ ¼³¸³Çß´Ù. AI Ãß·Ð ¿¬»ê¿¡ ÃÖÀûÈµÈ ½Ã½ºÅÛ ¹ÝµµÃ¼¸¦ °³¹ßÇÏ°í ÀÖ´Ù. ¿ÃÇØ IPO(±â¾÷°ø°³)¸¦ À§ÇØ »óÀå ÁÖ°ü»ç ¼±Á¤À» ¸¶Ä¡°í ÁßÀå±âÀûÀÎ »óÀå °èȹÀ» °ËÅäÇÏ°í ÀÖ´Ù.
ÃÖ¼À± ±âÀÚ sychoi@asiae.co.kr <¨ÏÅõÀÚ°¡¸¦ À§ÇÑ °æÁ¦ÄÜÅÙÃ÷ Ç÷§Æû, ¾Æ½Ã¾Æ°æÁ¦ ¹«´ÜÀüÀç ¹èÆ÷±ÝÁö> |