MirGames

FloodFill - это функция WinAPI, не имеющая отношение к GLScene. Первым параметром она принимает объект HDC - это контекст отображения или, иначе, дескриптор контекста устройства, который можно получить, вызвав, например, CreateCompatibleDC(0). В этом случае будет создан контекст отображения над окном текущего приложения.

По идее у объекта TForm, как и у всех контролов формы, должно быть свойство Handle, которое и является этим дескриптором.

Что же касается TGLCanvas, то, как я понимаю, это обертка над OpenGL, соответственно использовать функции GDI с ним бессмысленно, и нужно пользоваться тем набором функции, что предоставляет TGLCanvas.

А ещё лучше не мучаться, и просто использовать OpenGL без всяких оберток.

Не, Handle, вроде - это HWND :)
Чтобы взять HDC нужно написать (возможно, псевдо)код:
GetDC(Form1.handle);

А если сделать GetDC(0), то рисовать можно будет прямо на рабочем столе :)