지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술대회자료
- 저자정보
- 발행연도
- 2024.11
- 수록면
- 185 - 189 (5page)
이용수
초록· 키워드
오류제보하기
This paper proposes a vector similarity search acceleration by leveraging DRAM-based Processing In Memory (PIM), which is a key component in Retrieval-Augmented Generation (RAG) used to address limitations in large language models (LLMs). As datasets expand, distance computations in vector similarity searches become increasingly memory-intensive. To tackle this challenge, we developed vector similarity search applications using both brute-force and Hierarchical Navigable Small World (HNSW) algorithms, with the distance computation process accelerated through PIM. The proposed PIM implementation was emulated on an FPGA board, where verification and testing demonstrated significant performance gains. These findings highlight the promising potential for PIM commercialization and its capability to enhance LLM performance.
목차
Abstract
I. 서론
II. 본론
III. 실험 및 결과
IV. 결론
참고문헌
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
상용 DRAM 기반 PIM의 시스템 레벨 발열 모델링
대한전자공학회 학술대회
2024 .06
-
2T DRAM 기반 Processing-In-Memory 시뮬레이션 프레임워크 개발 및 Refresh 방법에 따른 추론 정확도 평가
대한전자공학회 학술대회
2022 .11
-
PIM 멀티 워크로드 실행을 위한 메모리 관리 기법
대한전자공학회 학술대회
2024 .06
-
PIM과 인공지능
전자공학회지
2021 .06
-
광대역폭 PIM을 위한 새로운 구조의 DRAM 셀 설계
대한전자공학회 학술대회
2022 .11
-
2T-DRAM PIM 구조 기반 듀얼 모드 동작을 위한 집적회로 기술
대한전자공학회 학술대회
2022 .11
-
메모리와 계산의 디커플링을 통한 표준 메모리 인터페이스로 all-bank PIM의 성능 달성
대한전자공학회 학술대회
2022 .11
-
Processing-in-Memory를 위한 효율적인 행렬 연산 기법
한국정보과학회 학술발표논문집
2021 .12
-
대형 언어모델의 컴퓨팅 요구사항에 따른 PIM 발전 방향
대한전자공학회 학술대회
2023 .06
-
Huge page를 활용한 Processing-in-Memory용 메모리 관리 라이브러리
대한전자공학회 학술대회
2022 .06
-
Refresh 회로 구현에 따른 2T DRAM-based PIM Chip 면적 분석
대한전자공학회 학술대회
2023 .06
-
메모리 접근 패턴 분석을 통한 PIM에 적합한 딥러닝 워크로드 구별 방법
대한전자공학회 학술대회
2021 .06
-
Processing-in-Memory을 활용한 스트링 탐색 애플리케이션 가속 기법
대한전자공학회 학술대회
2020 .08
-
In-depth Survey of Processing-in-memory Architectures for Deep Neural Networks
JOURNAL OF SEMICONDUCTOR TECHNOLOGY AND SCIENCE
2023 .10
-
PIM 기반 가속기 아키텍처를 활용한 AI 연산의 정확성 및 신뢰성 개선
대한전자공학회 학술대회
2024 .06
-
PIM 이종 시스템에서의 Power-Time design space 탐색 방법
대한전자공학회 학술대회
2018 .06
-
GPT-2 모델의 PIM 적용 가능성 탐색을 위한 성능 분석
대한전자공학회 학술대회
2022 .06
-
Case Study: Processor-in-memory (PIM) 환경에서 데이터 통신을 최소화한 VR 응용의 태스크 분할 방법
대한전자공학회 학술대회
2017 .11
-
Pim1 promotes IFN-β production by interacting with IRF3
Experimental and Molecular Medicine
2022 .11
-
Process Parameters Used in Macro/Micro Powder Injection Molding: An Overview
Metals and Materials International
2021 .01
최근 본 자료
댓글(0)
0