Add AFL helper program

Turo Lamminen

2015-04-30 81af19d404d912693e891d04d7ada5bb8f6c9a94

 .gitignore

@@ -3,3 +3,4 @@
*.trace
ddsinfo
glddstest
afl-mojodds

 Makefile

@@ -12,7 +12,7 @@

.SUFFIXES: .o

PROGRAMS:=ddsinfo glddstest
PROGRAMS:=ddsinfo glddstest afl-mojodds

.PHONY: all clean

@@ -28,3 +28,7 @@

glddstest: glddstest.o mojodds.o
    $(CC) -o $@ $^ $(LDLIBS)


afl-mojodds: afl-mojodds.o mojodds.o
    $(CC) -o $@ $^

 afl-mojodds.c

New file
@@ -0,0 +1,79 @@
#include <errno.h>
#include <stdbool.h>
#include <stdint.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>

#include "mojodds.h"


// helper for fuzzing with AFL
// if you don't know what this is you don't need it


int main(int argc, char *argv[]) {
    if (argc != 2) {
        return 0;
    }

    const char *filename = argv[1];

    FILE *f = fopen(filename, "rb");
    if (!f) {
        return 1;
    }

    fseek(f, 0, SEEK_END);
    long size = ftell(f);
    fseek(f, 0, SEEK_SET);

    char *contents = malloc(size);
    size_t readbytes = fread(contents, 1, size, f);
    if (readbytes != size) {
        free(contents);
        fclose(f);
        return 2;
    }

    fclose(f);

    int isDDS = MOJODDS_isDDS(contents, size);
    if (!isDDS) {
        return 3;
    }

    const void *tex = NULL;
    unsigned long texlen = 0;
    unsigned int glfmt = 0, w = 0, h = 0, miplevels = 0;
    unsigned int cubemapfacelen = 0;
    MOJODDS_textureType textureType = MOJODDS_TEXTURE_NONE;
    int retval = MOJODDS_getTexture(contents, size, &tex, &texlen, &glfmt, &w, &h, &miplevels, &cubemapfacelen, &textureType);
    if (!retval) {
        free(contents);
        return 4;
    }

    uint32_t hash = 0x12345678;
    for (unsigned int miplevel = 0; miplevel < miplevels; miplevel++) {
        const void *miptex = NULL;
        unsigned long miptexlen = 0;
        unsigned int mipW = 0, mipH = 0;
        retval = MOJODDS_getMipMapTexture(miplevel, glfmt, tex, texlen, w, h, &miptex, &miptexlen, &mipW, &mipH);
        if (!retval) {
            continue;
        }

        // read every byte to make sure any buffer overflows actually overflow
        const char *miptex_ = (const char *) miptex;
        for (unsigned int i = 0; i < miptexlen; i++) {
            hash = (hash * 65537) ^ miptex_[i];
        }
    }
    // do something the optimizer is not allowed to remove
    printf("0x%08x\n", hash);

    free(contents);

    return 0;
}