Los pines ICSP son para programar el Arduino directamente con un programador ISP/ICSP. Esto te permite hacer cosas como jugar con el bootloader/etc. Básicamente, mientras que el bootloader de Arduino entiende UART (el negocio de Rx/Tx), el microcontrolador AVR no lo hace, así que si quieres programarlo directamente, tienes que usar los pines ICSP.
Ver aquí y aquí para más detalles.
El conjunto de 6 pines cerca del pin AREF son el ICSP para el sistema USB. La interfaz USB tiene su propio microcontrolador (AFAICT es el ATmega16u2 en la Uno Rev 3). Al parecer, la gente lo utiliza para hacerlo compatible con el teclado o el ratón.
En cuanto a esa única clavija está desconectada. Mirando el esquema se puede ver que IOREF no es más que un pin de referencia de tensión de +5V, y que el pin 1 (el desconocido) está desconectado.