>どなたかクイックソートやマージソートでどうやって書いたらいいのか教えてください。どうかよろしくお願いします。
これはソートについて解説しているページでないときついかと。
過去ログにいくつかサンプルがあるかとは思いますが。
標準関数にqsortなんてのもありますので調べてみると吉。
クイックソートは自分で書くとかなりめんどくさいことに。

>ソート方法が挿入代入法では遅いのでオーダーがＮｌｏｇＮのソート方法で解決するように言われてしまってわからなくて困っています。
いっそのことオーダがNのbinソートで書いてみました。
下限と上限が決まっているときに使える（今回は1文字以上80文字以下）ソートで、ハッシュを使ったソート方法です。

#include <stdio.h>
#include <string.h>
#include <stdlib.h>

#define FILE_NAME "test.txt"
#define LINE_MAX 80

struct recordL {
    char str[LINE_MAX+1];
    struct recordL *next;
};

struct recordL *line_table[LINE_MAX+1];//ハッシュで保存用のテーブル

int get_line(char *str,FILE *fp){//一行を取得。返り値=行の長さ。取得失敗=-1。行末の'\n'削除
    int i,c;
    for(i=0;i < LINE_MAX;i++){
        c = fgetc(fp);
        if(c == '\n'){//行終了時
            str[i] = '\0';
            return i;
        }
        if(c == EOF){//ファイル終了時
            if(i > 0){
                str[i] = '\0';
                return i;
            }
            else return -1;
        }
        str[i] = c;
    }
    str[i] = '\0';
    
    while(1){//LINE_MAX以上の時は行の残りを廃棄
        c = fgetc(fp);
        if(c == '\n' || c == EOF) break;
    }
    return i;
}

int set_table(struct recordL *rec,int len){//1レコードをテーブルへセット
    rec->next = line_table[len];
    line_table[len] = rec;
    return 1;
}

int print_table(){//テーブルの出力
    int i;
    struct recordL *rec;
    
    for(i=0;i <= LINE_MAX;i++){
        for(rec = line_table[i];rec;rec = rec->next) printf("%s\n",rec->str);
    }
    return 1;
}

int main(){
    char buf[LINE_MAX+1];
    struct recordL *rec;
    int len,i;
    FILE *fp;
    
    fp = fopen(FILE_NAME,"r");
    while(1){
        len = get_line(buf,fp);//一行取得
        if(len == 0) continue;//0文字の行ならパス
        if(len == -1) break;//ファイル終了
        rec = malloc(sizeof(struct recordL));//↓レコードの登録
        strcpy(rec->str,buf);
        set_table(rec,len);
    }
    fclose(fp);
    
    print_table();//出力
    
    return 0;
}

> 表示のされ方が逆

あかまさんのサンプルでは、set_table関数がリストの前方に要素を追加するように
定義されているからです。
リストの後方に追加する定義の例：

struct recordL* tail[ LINE_MAX + 1 ]; // 各リストの最後の要素

void set_table( struct recordL* rec, int len )
{
    rec->next = NULL;
    if( tail[len] == NULL ){
        tail[len] = line_table[len] = rec;
    }
    else{
        tail[len] = tail[len]->next = rec;
    }
}

mallocで確保したメモリ領域は、使い終わったらfreeで解放しましょう。
例：

int main( voie )
{
    // 省略

    print_table();

    for( i = 0; i <= LINE_MAX; i++ ){
        struct recordL* tmp;
        for( rec = line_table[i]; rec != NULL; rec = tmp ){
            tmp = rec->next;
            free( rec );
        }
    }
    return 0;
}

任意の配列を対象とするマージソート関数を書いてみました。ご参考にどうぞ。
学校の課題のようですから詳しい解説はしません。悪しからず。
また、バグがないことを保証するものでもありません（バグの指摘などのツッコミは歓迎します）。

# ウェブ上でこの課題に関する質問を見るのは３〜４回目です。
# 先生に指導を仰ぐか、すでに仕上げた同級生に尋ねる方が早く解決すると思うのですが、
# いかがなもんでしょう > この課題の質問者の'みなさん'

// ■マージソート関数の実装例：
#include <stdlib.h>
#include <memory.h>

void merge_sort( void* beg, void* end, size_t sz, int(*cmp)( const void*, const void* ) )
{
    size_t diff = ( (char*)end - (char*)beg ) / sz;
    if( diff > 2 ){
        char* mid;
        char* seq;
        char* pos;
        char* it1;
        char* it2;

        mid = (char*)beg + diff / 2 * sz;
        merge_sort( beg, mid, sz, cmp );
        merge_sort( mid, end, sz, cmp );

        pos = seq = malloc( (char*)end - (char*)beg );
        for( it1 = beg, it2 = mid; it1 != mid || it2 != end; pos += sz ){
            if( it1 == mid ){
                memcpy( pos, it2, sz );
                it2 += sz;
            }
            else if( it2 == end || cmp( it1, it2 ) <= 0 ){
                memcpy( pos, it1, sz );
                it1 += sz;
            }
            else{
                memcpy( pos, it2, sz );
                it2 += sz;
            }
        }
        memcpy( beg, seq, (char*)end - (char*)beg );
        free( seq );
    }
    else if( diff == 2 ){
        void* tmp = malloc( sz );
        void* it1 = beg;
        void* it2 = (char*)beg + sz;
        if( cmp( it1, it2 ) > 0 ){
            memcpy( tmp, it1, sz );
            memcpy( it1, it2, sz );
            memcpy( it2, tmp, sz );
        }
        free( tmp );
    }
}

// ■merge_sortを使ったサンプルプログラム：
#include <stdio.h>
#include <string.h>

#define MAX_LENGTH  80

struct recordL{
    char str[ MAX_LENGTH + 1 ];
    struct recordL* next;
};

int record_length_cmp( const struct recordL* lhs, const struct recordL* rhs );

void sort_records( struct recordL* top, int (*cmp)( const struct recordL*, const struct recordL* ) );

int main( void )
{
    struct recordL* top = NULL;
    struct recordL* pos;
    struct recordL* tmp;

    char buff[ MAX_LENGTH + 1 ];
    int a;

    while( ( a = getc( stdin ) ) != EOF ){
        // １行読み込み（最大80文字）
        int i = 0;
        if( a != '\n' ){
            for( ; i < MAX_LENGTH && a != '\n' && a != EOF; a = getc( stdin ) ){
                buff[ i++ ] = a;
            }
            for( ; a != '\n' && a!= EOF; a = getc( stdin ) ){
                ;
            }
        }
        buff[i] = '\0';

        // レコードデータの作成とリストへの追加
        tmp = (struct recordL*)malloc( sizeof( struct recordL ) );
        strcpy( tmp->str, buff );
        tmp->next = NULL;
        if( top == NULL ){
            top = pos = tmp;
        }
        else{
            pos = pos->next = tmp;
        }
    }

    // 文字数の昇順でソート
    sort_records( top, &record_length_cmp );

    // 結果出力
    for( pos = top; pos != NULL; pos = pos->next ){
        if( strlen( pos->str ) > 0 ){
            printf( "%s\n", pos->str );
        }
    }

    // リストの解体（メモリ解放）
    for( pos = top; pos != NULL; ){
        tmp = pos;
        pos = pos->next;
        free( tmp );
    }
    return 0;
}

int record_length_cmp( const struct recordL* lhs, const struct recordL* rhs )
{
    unsigned lhs_len = strlen( lhs->str );
    unsigned rhs_len = strlen( rhs->str );

    if( lhs_len < rhs_len ){
        return -1;
    }
    else if( lhs_len == rhs_len ){
        return 0;
    }
    else{
        return 1;
    }
}

void sort_records( struct recordL* top, int (*cmp)( const struct recordL*, const struct recordL* ) )
{
    struct recordL* rec;
    struct recordL* pos;
    int size, i;

    for( size = 0, pos = top; pos != NULL; pos = pos->next ){
        size++;
    }

    rec = (struct recordL*)malloc( sizeof( struct recordL ) * size );
    for( i = 0, pos = top; i < size; i++, pos = pos->next ){
        strcpy( rec[i].str, pos->str ); // from list to array
    }
    merge_sort( rec, rec + size, sizeof( struct recordL ), (int(*)( const void*, const void* ))cmp );
    for( i = 0, pos = top; i < size; i++, pos = pos->next ){
        strcpy( pos->str, rec[i].str ); // from array to list
    }
    free( rec );
}

#include <stdio.h>
#include <string.h>
#include <stdlib.h>

#define MAX_LENGTH (80)
#define ARRAY_LENGTH(a) ((int)(sizeof(a)/sizeof(a)[0]))

struct recordL {
    char str[MAX_LENGTH + 1];
    struct recordL *next;
};

struct recordL * create_recordL(char * str)
{
    struct recordL      *new_instance = malloc(sizeof(struct recordL));
    new_instance->next = NULL;
    sprintf(new_instance->str, "%.*s", MAX_LENGTH, str);

    return new_instance;
}

char * get_and_trim_line(char * dest, int size, FILE * fp)
{
    char        *ret = fgets(dest, size, fp);
    if (ret != NULL) {
        if (dest[strlen(dest) - 1] != '\n') {
            while (getc(fp) != '\n');
        } else {
            dest[strlen(dest) - 1] = '\0';
        }
    }

    return ret;
}

void print_reverse_recordLs(struct recordL * list_first)
{
    if (list_first == NULL) return;
    print_reverse_recordLs(list_first->next);
    puts(list_first->str);
}

int main(void)
{
    char        buf[MAX_LENGTH + 1];
    int         i;
    struct recordL      *line_lists[MAX_LENGTH + 1] = { NULL };

    while (get_and_trim_line(buf, ARRAY_LENGTH(buf), stdin)) {
        struct recordL *new_item = create_recordL(buf);

        new_item->next = line_lists[strlen(buf)];
        line_lists[strlen(buf)] = new_item;
    }

    for (i = 1; i < ARRAY_LENGTH(line_lists); i++) {
        print_reverse_recordLs(line_lists[i]);
    }

    return 0;
}