Ciao YSN,
per disegnare le primitive bidimensionali che hai citato (Cerchio, Quadrato, Rettangolo) non ti serve una libreria: la classe Graphics/Graphics2D espone dei metodi appositi.
Per i grafici prova ad esaminare conosco di fama
JFreeChart e ho trovato sul web questa
jzy3d.
Devi valutare quale delle due soddisfa meglio le tue esigenze.