»Ë»Ñ ´º½º
IT/Å×Å© ÀÔ´Ï´Ù.
  • ºÏ¸¶Å© ¾ÆÀÌÄÜ

Ç»¸®¿À»çAI ¹éÁØÈ£ ´ëÇ¥ "³»´Þ »ï¼º¡¤ºÏ¹Ì °í°´»ç Æò°¡ ½ÃÀÛ¡¦2ºÐ±â ¸ÅÃâ Àü¸Á"

¹éÁØÈ£ Ç»¸®¿À»çAI ´ëÇ¥´Â 3ÀÏ ¡°³»³â 1¿ùºÎÅÍ ºÏ¹Ì °í°´»ç°¡ º»°ÝÀûÀ¸·Î Â÷¼¼´ë AI ¹ÝµµÃ¼ '·¹´Ï°ÔÀ̵å(RNGD)' ¼º´ÉÀ» Æò°¡ÇÒ ¿¹Á¤¡±À̶ó¸ç ¡°´ÙÀ½ ´Þ Áß¼øºÎÅÍ´Â »ï¼ºÀüÀÚ°¡ ¼º´É Æò°¡¸¦ ½ÃÀÛÇÑ´Ù¡±°í ¸»Çß´Ù.


¹é ´ëÇ¥´Â À̳¯ ¼­¿ï °ü¾Ç±¸ ¼­¿ï´ë °ü¾ÇÄ·ÆÛ½º¿¡¼­ ¼­¿ï´ë ÀΰøÁö´É ¹ÝµµÃ¼ ´ëÇпø ÁÖÃÖ·Î ¿­¸° ¡®Á¦2ȸ ¼­¿ï´ë AI ¹ÝµµÃ¼ Æ÷·³(SAISF)¡¯¿¡¼­ ¡°ÇöÀç LG°¡ ÃÊ°Å´ë AI ¸ðµ¨ ¿¢»ç¿ø(Exaone)À» È°¿ëÇØ ·¹´Ï°ÔÀÌµå ¼º´ÉÀ» Æò°¡ ÁßÀÌ°í »ç¿ìµð ¾Æ¶÷ÄÚµµ ·¹´Ï°ÔÀ̵å 70B ¸ðµ¨ Å×½ºÆ®¸¦ ÁøÇà Áß¡±À̶ó¸ç ÀÌ°°ÀÌ ¹àÇû´Ù.
¹é ´ëÇ¥´Â ÀÌ¾î ¡°³»³â 2ºÐ±âºÎÅÍ ´ë·® »ý»ê ¸ÅÃâÀÌ ½ÃÀÛµÉ °ÍÀ¸·Î ¿¹»óÇÑ´Ù¡±°í Çß´Ù.


newhub_2024120313084234575_1733198923.jpg

·¹´Ï°ÔÀ̵å´Â Ç»¸®¿À»çAI°¡ ¾à 4³â¿¡ °ÉÃÄ °³¹ßÇÑ ±Û·Î¹ú ÃÖÃÊ HBM3¸¦ žÀçÇÑ Ã߷пë AI ¹ÝµµÃ¼´Ù.
Áö³­ 5¿ù TSMC·ÎºÎÅÍ Ã¹ »ùÇÃÀ» ¹Þ¾Ò°í Áö³­ 8¿ù ¹Ì±¹ ½ºÅÄÆÛµå´ë¿¡¼­ ¿­¸° ¹ÝµµÃ¼ ¾÷°è ÇмúÇà»ç ¡®ÇÖ Ä¨½º(Hot Chips) 2024 ÄÜÆÛ·±½º¡¯¿¡¼­ Á¦Ç°À» óÀ½À¸·Î °ø°³Çß´Ù.
´ëÇ¥Àû ´ë±Ô¸ð¾ð¾î¸ðµ¨(LLM)ÀÎ ¶ó¸¶(Llama)3.1 70B ¸ðµ¨¿¡ ´ëÇÑ µ¥¸ðµµ ½ÃÇöÇÏ¸ç ±Û·Î¹ú AI ½ÃÀå¿¡¼­ ±â¼ú·ÂÀ» ÀÔÁõÇß´Ù.


·¹´Ï°ÔÀ̵å´Â NVIDIA A100°ú À¯»çÇÑ 12.4 QPS(Queries Per Second, ÃÊ´ç 12.4°³ÀÇ Äõ¸®¸¦ ó¸®)ÀÇ Ã³¸® ¼Óµµ¸¦ Á¦°øÇϸ鼭µµ Àü·Â È¿À²ÀÌ 50% ´õ ¶Ù¾î³ª´Ù.
QPS°¡ ³ôÀ¸¸é ´õ ¸¹Àº »ç¿ëÀÚ ¿äûÀ» ó¸®ÇÒ ¼ö ÀÖ´Ù.
Äõ¸®´Â »ç¿ëÀÚ°¡ ÀÔ·ÂÇÏ´Â Áú¹®, ¿äû, ¸í·ÉÀ» ¶æÇÑ´Ù.
¹é ´ëÇ¥´Â ¡°HBM3 ¸Þ¸ð¸®¸¦ äÅÃÇÔÀ¸·Î½á LLM¿¡¼­ °¡Àå Å« ¹®Á¦·Î ²ÅÈ÷´Â ¸Þ¸ð¸® º´¸ñ Çö»óÀ» ÇØ°áÇß´Ù¡±¸ç ·¹´Ï°ÔÀ̵åÀÇ ¼º´É°ú È¿À²¼ºÀ» °­Á¶Çß´Ù.


newhub_2024120313134034585_1733199221.jpg

¹é ´ëÇ¥´Â¡°·¹´Ï°ÔÀ̵å´Â TDP(Thermal Design Power, ¿­ ¼³°è Àü·Â)°¡ 150~200W ¼öÁØÀ¸·Î ±âÁ¸ µ¥ÀÌÅͼ¾ÅÍ È¯°æ°ú ³ôÀº ȣȯ¼ºÀ» À¯ÁöÇϸç LLM Ãß·Ð ÀÛ¾÷¿¡¼­ ÃÖÀûÀÇ ¼º´ÉÀ» ¹ßÈÖÇÑ´Ù¡±°í Çß´Ù.
TDP(Thermal Design Power¡¤¿­ ¼³°è Àü·Â)À¸·Î ¹ÝµµÃ¼³ª ÇÁ·Î¼¼¼­°¡ ÃÖ´ë ºÎÇÏ·Î ÀÛµ¿ÇÒ ¶§ ¹æÃâÇÏ´Â ¿­ÀÇ ÃÖ´ë·®À» ÃøÁ¤ÇÑ °ªÀ» ¸»ÇÑ´Ù.
TDP°¡ ³·À»¼ö·Ï Àü·Â ¼Òºñ·®ÀÌ Àû°í, ¿¡³ÊÁö È¿À²ÀÌ ³ôÀº ĨÀÌ´Ù.


¿£ºñµð¾Æ Á᫐ ±×·¡ÇÈó¸®ÀåÄ¡(GPU) »ýÅ°迡¼­ Ç»¸®¿À»çAI´Â µ¶ÀÚÀûÀÎ ±â¼ú·ÂÀ¸·Î »õ·Î¿î °æÀï ±¸µµ¸¦ ¸¸µé¾î°¥ °ÍÀ¸·Î ¿¹»óµÈ´Ù.
¹é ´ëÇ¥´Â ¡°AI ¹ÝµµÃ¼´Â ´Ü¼øÇÑ ¼º´É °æÀïÀ» ³Ñ¾î ¿¡³ÊÁö È¿À²¼º°ú ºñ¿ë È¿À²¼ºÀ» ÅëÇÑ Áö¼Ó °¡´É¼ºÀÌ Çٽɡ±À̶ó¸ç ¡°Ç»¸®¿À»çAI´Â Áö¼Ó °¡´ÉÇÑ AI ÄÄÇ»Æà ¼Ö·ç¼ÇÀ» Á¦°øÇÏ´Â µ¥ ÁßÁ¡À» µÎ°í ÀÖ´Ù¡±°í Çß´Ù.


¹é ´ëÇ¥´Â »ï¼ºÀüÀÚ ¸Þ¸ð¸®»ç¾÷ºÎ ¿£Áö´Ï¾î, ¹Ì±¹ ¹ÝµµÃ¼ ȸ»ç AMD GPUÆÀ ¿£Áö´Ï¾î·Î ±Ù¹«ÇÏ´Ù 2017³â Ç»¸®¿À»çAI¸¦ ¼³¸³Çß´Ù.
AI Ãß·Ð ¿¬»ê¿¡ ÃÖÀûÈ­µÈ ½Ã½ºÅÛ ¹ÝµµÃ¼¸¦ °³¹ßÇÏ°í ÀÖ´Ù.
¿ÃÇØ IPO(±â¾÷°ø°³)¸¦ À§ÇØ »óÀå ÁÖ°ü»ç ¼±Á¤À» ¸¶Ä¡°í ÁßÀå±âÀûÀÎ »óÀå °èȹÀ» °ËÅäÇÏ°í ÀÖ´Ù.



ÃÖ¼­À± ±âÀÚ sychoi@asiae.co.kr
<¨ÏÅõÀÚ°¡¸¦ À§ÇÑ °æÁ¦ÄÜÅÙÃ÷ Ç÷§Æû, ¾Æ½Ã¾Æ°æÁ¦ ¹«´ÜÀüÀç ¹èÆ÷±ÝÁö>

<º» ÄÜÅÙÃ÷ÀÇ ÀúÀÛ±Ç ¹× ¹ýÀû Ã¥ÀÓÀº ¾Æ½Ã¾Æ°æÁ¦(www.asiae.co.kr)¿¡ ÀÖÀ¸¸ç, »Ë»Ñ´Â Á¦ÈÞ¸¦ ÅëÇØ Á¦°øÇÏ°í ÀÖ½À´Ï´Ù.>
´º½º ½ºÅ©·¦À» Çϸé ÀÚÀ¯°Ô½ÃÆÇ ¶Ç´Â Á¤Ä¡ÀÚÀ¯°Ô½ÃÆÇ¿¡ °Ô½Ã±ÛÀÌ µî·ÏµË´Ï´Ù. ½ºÅ©·¦Çϱâ >

0
ÃßõÇϱ⠴ٸ¥ÀÇ°ß 0
|
°øÀ¯¹öÆ°
÷ºÎÆÄÀÏ
  • newhub_2024120313084234575_1733198923.jpg
  • newhub_2024120313134034585_1733199221.jpg
  • ¾Ë¸² ¿å¼³, »óó ÁÙ ¼ö ÀÖ´Â ¾ÇÇÃÀº »ï°¡ÁÖ¼¼¿ä.
©¹æ »çÁø  
¡â ÀÌÀü±Û¡ä ´ÙÀ½±Û