gzip
Mit der Option -z wird gzip zur Komprimierung verwendet
tar cfz test.tar.gz testOrdner/

bzip2
Mit der Option -j wird bzip2 zur Komprimierung verwendet
tar cfj test.tar.bz2 testOrdner/

Auto Option
Mit der Option -a erkennt tar die Komprimierung anhand der Dateiendung
tar cfa testauto.tar.gz testOrdner/
tar cfa testauto.tar.bz2 testOrdner/

Komprimierte tar-Archive entpacken

Beim entpacken erkennt tar das Format immer automatisch
tar xf test.tar.gz
tar xf test.tar.bz2 -C testOrdner2

Links

tar – Wikipedia
GNU tar 1.22: 8.1.1 Creating and Reading Compressed Archives
GNU tar 1.22: 3.4.2 tar Options