การจัดตั้งพิพิธภัณฑ์อัญมณีและเครื่องประดับเป็นส่วนหนึ่งในแผนงานของสถาบันที่มุ่งหวังจะเสริมสร้างความรู้ความเข้าใจและกระตุ้นให้เยาวชนและบุคคลทั่วไปได้ตระหนักถึงคุณค่าของอัญมณีและเครื่องประดับไทย อีกทั้งยังเป็นสถานที่สำหรับการอนุรักษ์ตัวอย่างอัญมณีและเครื่องประดับไว้สำหรับอนุชนรุ่นหลังสืบต่อไป

ด้วยเหตุนี้ ในปี พ.ศ. 2544 สถาบันจึงได้จัดตั้งคณะกรรมการดำเนินงานโครงการจัดตั้งพิพิธภัณฑ์อัญมณีและเครื่องประดับขึ้นชุดหนึ่ง โดยมีศาสตราจารย์ศักดา ศิริพันธุ์ อดีตผู้อำนวยการสถาบัน และ ดร . สุณี ศรีอรทัยกุล นายกสมาคมผู้ค้าอัญมณีไทยและเครื่องประดับในขณะนั้น เป็นประธานร่วม คณะกรรมการชุดนี้ได้ให้ความร่วมมือในการช่วยจัดหาอัญมณี / เครื่องประดับ / โลหะมีค่ารวมทั้งอุปกรณ์ที่ใช้ในกระบวนการผลิตเพื่อจัดแสดงในพิพิธภัณฑ์ ซึ่งเพียงพอที่พิพิธภัณฑ์จะจัดแสดงได้ในระดับหนึ่ง ต่อมาเมื่อวันที่ 22 กุมภาพันธ์ พ.ศ. 2545 สถาบันจึงได้จัดงานแนะนำพิพิธภัณฑ์อัญมณีและเครื่องประดับ โดยมีปลัดกระทรวงพาณิชย์ กรุณาให้เกียรติเป็นประธานในพิธี โดยมีวัตถุประสงค์เพื่อประชาสัมพันธ์โครงการจัดตั้งพิพิธภัณฑ์ให้แพร่หลายในวงกว้างมากยิ่งขึ้น และนับแต่นั้นเป็นต้นมา พิพิธภัณฑ์อัญมณีและเครื่องประดับได้เปิดให้เข้าชมโดยมีนิสิต นักศึกษา ผู้เข้ารับการฝึกอบรมของสถาบัน ตลอดจนประชาชนทั่วไป ได้เข้าชมอย่างต่อเนื่อง

ด้วยเจตนารมณ์ที่มุ่งมั่นจะพัฒนาให้พิพิธภัณฑ์เป็นสถานที่อนุรักษ์ตัวอย่างอัญมณีและเครื่องประดับและเพื่อการศึกษาต่อเนื่องให้แก่อนุชนรุ่นหลังอันจะนำไปสู่การพัฒนาบุคลากรทางด้านอุตสาหกรรมอัญมณีและเครื่องประดับของไทย ในระหว่างปี พ.ศ. 2546-2547 สถาบันยังคงปรับปรุงและพัฒนาการจัดแสดงพิพิธภัณฑ์ให้ก้าวหน้าต่อไปโดยเพิ่มเติมการแสดงถาวรของพิพิธภัณฑ์อัญมณีและเครื่องประดับ ประกอบด้วย การแสดงการทำเหมืองอัญมณี การนำเสนอขั้นตอนการผลิตอัญมณี การจัดแสดงตัวอย่างอัญมณีทั้งก่อนและหลังการเจียระไน การจำแนกตามประเภทและคุณสมบัติของอัญมณีแต่ละชนิด รวมทั้งแบบและการผลิตของเครื่องประดับ ตลอดจนการแสดงวิดีทัศน์เกี่ยวกับอุตสาหกรรมอัญมณีและเครื่องประดับและแสดงสถิติข้อมูลทางการค้าอัญมณีและเครื่องประดับ นอกจากนี้ยังติดตั้งคอมพิวเตอร์ช่วยในการสอน (Computer Aided Instruction) สำหรับการศึกษาด้วยตนเองไว้ภายในห้องแสดงนิทรรศการอีกด้วย

พิพิธภัณฑ์อัญมณีและเครื่องประดับเปิดเป็นทางการเมื่อ วันพฤหัสบดีที่ 26 สิงหาคม พ.ศ. 2547 โดยสถาบันได้ขอกราบทูลสมเด็จพระเจ้าพี่นางเธอเจ้าฟ้ากัลยาณิวัฒนา กรมหลวงนราธิวาสราชนครินทร์ เสด็จเป็นองค์ประธานเปิดพิพิธภัณฑ์อัญมณีและเครื่องประดับ เพื่อเฉลิมพระเกียรติเนื่องในวโรกาสที่สมเด็จพระเจ้าพี่นางเธอเจ้าฟ้ากัลยาณิวัฒนา กรมหลวงนราธิวาสราชนครินทร์ ทรงเจริญพระชนมายุ 80 พรรษา และเพื่อเป็นสิริมงคลแก่พิพิธภัณฑ์ เจ้าหน้าที่ และผู้เกี่ยวข้องทุกคนสืบไป