분류 전체보기
-
Triton server memory leak (메모리 릭) malloc설정을 바꿔보자computer science 2024. 5. 13. 14:00
- 결론부터 말하자면 Triton inference api server 를 사용할때 docker image의 malloc을 지정하는 환경변수를 바꿔서 테스트해보는것을 추천한다. 자세한 방법과 내용은 글 하단에 작성해두었다. 일단 필자가 사용하는 서버에서 주로 메모리가 급증했던 구간은 python으로 preprocess하는 custom api 구간이었다. image를 byte array 형태로 직접 받도록 구성해두었다보니 요청량이 많아져 queue가 쌓이면 이미지를 메모리상에 두게되어 메모리 점유율이 급상승하는 형태를 띈다. 문제는 요청 이후 api측은 idel상태인데 메모리중 일부가 릴리즈되지 않는 경향을 보이는것이다. 처음에는 python에서 garbage collecter가 동작해서 해결될거..
-
SpaceX Starship 상용화? 미리 투자하면 좋을 미국주식 2개investment & economy 2023. 11. 8. 23:00
일론머스크의 SpaceX는 민간 우주기업 최초로 로켓상용화에 성공한 기업이다. 재사용 가능한 로켓인 팔콘9을 필두로 수없이 많은 위성들을 궤도로 올려보내고 있으며, 이제 그들은 행성간 여행을 목적으로 하는 초대형 로켓인 Starship을 개발중이다. 지난 23년 4월 대망의 Starship 발사 테스트가 있었고, 첫 발사임에도 준궤도에 도달하는 쾌거를 이뤘다. 물론 몇가지 이슈로 인해 결국 실패로 끝났지만 인류의 최초 시도가 많았던 만큼 전세계의 이목이 집중된 순간이었다. 이 거대한 발사체는 우주산업의 경제적 틀을 재구성할 잠재력을 갖고 있다. 재사용 가능한 슈퍼로켓 기술은 발사 비용을 대폭 절감하여 기존에 우주여행에 드는 부담을 대폭 감소시킬 수 있다. 게다가 달은 물론 화성까지 인간과 화물을 운송하는..
-
엔비디아가 테슬라처럼 롱런 할 수 있는 3가지 이유investment & economy 2023. 8. 21. 11:00
최근 엔비디아의 상승세가 심상치 않다. 심지어 PER은 200대를 넘어가면서 고평가라는 이야기가 심심치않게 들린다. 이제 고점이라며 수익을 보고 청산했다는 글도 쏟아지고 있다. 그럼에도 주가는 쉽사리 내려오지 않고있다. 과연 현재상황은 FOMO일까 아니면 적정한 시장반응일까? 사실 엔비디아는 테슬라가 폭등했을때과 거의 비슷한 흐름을 보여주고 있다. 현상도 사실 비슷하다. 테슬라는 매력적으로 보이는 회사이미지와 전기차시장의 성장세라는 호재에 힘입어 공매도 세력을 압도하며 크게 상승했다. 엔비디아는 AI수요 증가 및 생태계 확장이라는 호재에 힘입어 없어서는 안될 회사라는 인식이 강해지며 투자자들의 마음을 훔치고 있다. 오르는 이유는 사실 트랜드에 맞는 제품군을 보유하고 있다는 공통점이 있다. 이것 말고도 3..
-
ChatGPT + Code Interpreter 세팅 & 시각화 잘하려면 알아야 할 5가지!computer science 2023. 7. 16. 11:30
최근에 OpenAI에서 발표한 ChatGPT의 따끈한 기능 Code Interpreter가 발표되었다. 이를 통해서 데이터 분석가 못지 않은 데이터 정리와 분석, 가벼운 머신러닝, 데이터 시각화를 코드에 대한 지식 없이도 일반인이 쉽게 접근 할 수 있게 되었다. 물론 필자 생각에는 데이터 분석가들이 이 기능을 더욱 잘 활용할 수 있을것이라고 보는데, 그 이유 중 하나는 이 코드인터프리터가 동작하는데 사용하는 기술들이 그들에겐 익숙한 툴이기 때문이다. OpenAI 공식 디벨로퍼 사이트에 가면 다음과 같이 코드 인터프리터가 어떤 패키지툴을 활용하는지가 설명되어있다. 더보기 제목 : Code Interpreter Python Packages: List of packages available in the env..
-
2023 미국증시 프리마켓 애프터마켓 거래시간 + 휴장정보investment & economy 2023. 7. 15. 23:00
미국기준 거래시간 미국의 대표적인 주식 시장인 뉴욕 증권 거래소(NYSE)와 나스닥(NASDAQ)의 정규 거래 시간은 미국 동부 표준시(EST) 기준으로 오전 9:30부터 오후 4:00까지이다. 프리마켓(pre-market, 사전거래)은 오전 4:00 ~ 오전 9:30까지, 그리고 애프터마켓(after-market, post-market, 사후 거래)은 오후 4:00 ~ 오후 8:00까지 이다. 2023 미국주식 시가총액 순위표 top 100 +α 미국주식을 투자함에 있어서 가장 기초가 되는 것 중 하나는 전체 주식시장을 움직이는 상위 종목들에 대해 아는 것이다. 해당 종목들의 규모가 크기 때문에 시장 전체에 미치는 영향력은 압도 stocktrees.com 한국기준 거래시간 한국 시간으로는 미국 증권 시..
-
요즘 핫한 아이온큐. 양자컴퓨팅의 최강자가 될 것인가?? 투자해야하는 이유 3가지investment & economy 2023. 7. 14. 22:00
IONQ는 최근 떠오르는 양자 컴퓨팅 분야의 선두주자다. 그들은 IonQ Aria, IonQ Harmony, IonQ Forte 등 다양한 양자 컴퓨터를 제공하고 있으며, 지속적으로 새로운 제품들을 개발하고 출시하고 있다. 이미 수많은 회사가 양자 컴퓨팅에 도전하고 있으나 유독 아이온큐가 앞서가는듯한 이유는 무엇일까? 3가지로 요약해보자. 1. 적극적인 홍보와 제품에 대한 자신감. 먼저 IONQ와 관련된 최근 뉴스를 살펴보자. IonQ, 한국 과학기술정보통신부와 협약 체결, 지역 양자 컴퓨팅 생태계 조성 (2023년 6월 29일) IonQ, 2023년 예약 주문 예상치를 중간점에서 5천만 달러로 상향 조정, 전년 대비 예약 주문 두 배 증가 예상 (2023년 6월 22일) IonQ와 QuantumBase..
-
텐베거를 노려볼만한 양자컴퓨팅 관련 투자 종목 TOP5investment & economy 2023. 7. 12. 08:30
AI산업이 이미 성장하고 있고, 웬만한 IT산업은 모두 고평가되어있는 수준이다. 그래서 새로운 게임체인저에 투자를 하고 싶은 사람들은 종종 양자컴퓨팅에 투자하면 어떨까 생각해본다. 과거에 양자컴퓨터 투자는 사실상의 투자금을 잃는 행위에 가까웠다. 기술적으로도 부족했고, 연구도 성숙하지 않았던 시절이었다. 현재는 IT기술과 반도체 기술의 발달로 과거보다는 나아진 환경이지만 아직도 양자컴퓨터를 통한 실사용 예제는 거의 전무하다싶을 정도이다. 설령 컴퓨터가 뛰어나다고 해도 해당 기술로 수익을 벌 수 있는 비즈니스로직이 있을까에 대한 의구심도 생긴다. 그러나 일단 가능성이 생기고 투자하려는 사람들이 모이면 순식간에 시장을 형성하고 가치를 높일 수도 있다. 몇몇 투자자들로부터 이런 기대감은 여전히 크고, 비즈니스..
-
삼성과 애플. 둘다 투자하기엔 글렀다?investment & economy 2023. 7. 11. 07:40
과거 스마트폰 양대산맥으로 팽팽했던 삼성과 애플. 현재는 1% 차이로 삼성이 스마트폰 시장 점유율을 앞서고 있다. 하지만 투자성적으로는 정반대의 상황이다. 애플은 승승장구하며 사상최고가를 경신하고 있지만 삼성은 9만전자에서 미끄러져 6만전자의 늪에서 쉽게 벗어나질 못하고 있다. 두 회사의 최근 이슈들을 보며 앞으로의 전망이 어떨지 가볍게 추측해보자. 왜 삼성 애플은 투자하기에 좋지 못한가? 삼성과 애플. 두 기업의 공통점 스마트폰 및 IT기기를 판매한다는 공통점 문제는 중국산 저가 제품들이 빠르게 점유율을 치고 올라오고 있다는 것이다. 그럼 중국산 품질은 떨어지느냐? 품질 수준도 이젠 수준급이라 최신제품끼리 비교하면 사실 중국산 스마트폰의 퀄리티가 나쁘다고 말하기 어렵다. 이들은 현재 동남아국가와 유럽 ..