Tengo una tabla de servidor SQL ... es algo como esto:

Id ...... Column1 ...... Column2  
````````````````````````````````  
1 ........ 1 ............. 34  
2 ........ 1 ............. 44  
3 ........ 2 ............. 45  
4 ........ 2 ............. 36  
5 ........ 2 ............. 23  
6 ........ 3 ............. 68  
7 ........ 3 ............. 26  

Entonces, necesito seleccionar el promedio de Column2, pero agrupar con column1 antes de hacerlo.
Quiero decir, si digo Avg (Column2) solo devuelve una sola fila con el promedio de todas las filas.

Lo que necesito es, primero necesito agruparlos por columna para que:
Promedio de la columna2 donde columna1 = 1
Promedio de la columna2 donde columna1 = 2
Promedio de la columna2 donde columna1 = 3

Entonces quiero que se devuelvan 3 filas con los promedios de los valores respectivos de column1. Estoy perdido haciendo esto, ¿alguna pista / ayuda por favor?

PD: Intenté varias preguntas relacionadas, y ninguna de ellas ayudó / No pude entender.